托马斯·贝叶斯(Thomas Bayes)
英格兰长老会牧师与业余数学家——一生几乎不发表数学论文,却在身后留下一份被遗忘的手稿,提出"由结果反推原因"的逆概率思想;沉寂百年后,这一思想成为现代统计学、机器学习与人工智能的基石。
一、生平与时代背景
托马斯·贝叶斯约生于 1701 年(一说 1702 年,学界有争议,详见第六节) 的伦敦。父亲约书亚·贝叶斯(Joshua Bayes)是英格兰最早被按立的六位不信奉国教(Nonconformist)牧师之一,1694 年受神职,后赴伦敦博文顿的 Box Lane 教堂,再迁至伦敦南华克,在圣托马斯教堂与霍尔本的 Leather Lane 教堂任助理。母亲安妮·卡彭特(Anne Carpenter)。托马斯是七个孩子(四男三女)中的长子。
他的早年教育不甚清楚。一种说法(哈金 Hacking)认为他受的是私人教育——这在当时不信奉国教者的家庭中几乎是必需的;巴纳德(Barnard)甚至提出一个饶有趣味的可能:他的私人教师也许就是当时正在伦敦做家庭教师的棣莫弗,但无确证。另一些史家则认为他接受了为神职准备的博雅教育,可能就读于伦敦 Tenter Alley 的 Fund Academy(附近唯一与他家庭宗教背景相符的学校)。
1719 年,他入读爱丁堡大学学习逻辑与神学——当时不信奉国教者被禁止入读牛津、剑桥,苏格兰大学是不出国深造的唯一选择。爱丁堡现存记录显示,他于 1721 年 1 月 14 日以《马太福音》7:24-27 为题做过布道,1722 年 1 月 20 日又以《马太福音》11:29-30 为题布道。他以候补传道身份离校,此时尚未受神职。没有证据表明他在爱丁堡学过数学,但他显然有此机会;他 34 岁时写道"我早就认为流数术的首要原理与规则需要更充分、更明晰的解释与证明",暗示其数学兴趣可追溯到学生时代或稍后。
贝叶斯像父亲一样受神职,成为不信奉国教牧师,起初在霍尔本协助父亲。约 1733 年,他出任伦敦东南 35 英里的坦布里奇韦尔斯(Tunbridge Wells)长老会教堂牧师,接任去世的前任约翰·阿彻(John Archer)。不过有证据显示他在此之前就与坦布里奇韦尔斯有联系——一份报告称他 1730 年已继任(而 1728 年离开、1731 年返回)。1746 年 8 月 24 日,威廉·惠斯顿(William Whiston)与他共进早餐后写道:他是"坦布里奇韦尔斯的不信奉国教牧师……继汉弗莱·迪顿(Humphrey Ditton)之后(虽非直接继任),同迪顿一样是位很好的数学家"。
他 1749 年曾试图退休,实际 1752 年才卸任牧师,但仍居坦布里奇韦尔斯。1742 年,他当选皇家学会会员——尽管当时他名下没有任何已发表的数学著作(他生前唯一署名发表的作品寥寥,1736 年那本为流数术辩护的书是匿名的)。
1761 年 4 月 17 日卒于肯特郡坦布里奇韦尔斯,葬于伦敦邦希尔场(Bunhill Fields,不信奉国教者墓地,靠近穆尔门),其墓可寻。
他身后留下的最重要手稿被友人理查德·普莱斯(Richard Price)发现并于 1763 年提交皇家学会,即著名的《论机会学说中一个问题的求解》(An Essay towards solving a problem in the doctrine of chances),1764 年刊于《哲学会刊》第 53 卷。另有一篇关于渐近级数的遗作,证明斯特林/棣莫弗给出的 $\log z!$ 级数因发散而无效。一份几乎可以肯定出自贝叶斯之手的笔记本(戴尔 Dale 详细研究过)涵盖概率、三角、几何、解方程、级数、微分,以及电学、光学、天体力学等自然哲学内容。
二、学术生涯年表
| 年份 | 事件 |
|---|---|
| 约 1701 | 生于伦敦(一说 1702,学界有争议);父为不信奉国教牧师 |
| 1719 | 入爱丁堡大学学习逻辑与神学 |
| 1721 | 1 月 14 日以《马太福音》7:24-27 布道 |
| 1722 | 1 月 20 日以《马太福音》11:29-30 布道;以候补传道身份离校 |
| 约 1731 | 受神职,先在霍尔本协助父亲 |
| 约 1733 | 出任坦布里奇韦尔斯长老会教堂牧师 |
| 1736 | 匿名出版《流数术导论及为数学家辩护》,回应贝克莱《分析学家》 |
| 1742 | 当选皇家学会会员(虽无署名数学著作发表) |
| 1746 | 8 月 24 日惠斯顿与其共进早餐,赞其数学造诣 |
| 约 1749 | 尝试退休 |
| 约 1756 | 写信批评辛普森关于多次观测可消除误差的观点 |
| 1752 | 正式卸任牧师,但仍居坦布里奇韦尔斯 |
| 1761 | 4 月 17 日卒于坦布里奇韦尔斯 |
| 1763 | 友人普莱斯将其遗稿提交皇家学会宣读 |
| 1764 | 《论机会学说中一个问题的求解》刊于《哲学会刊》第 53 卷 |
三、核心成果(逐条技术解析)
1. 逆概率与贝叶斯定理——《论机会学说中一个问题的求解》(1763/1764)
问题背景:已知某事件在相同条件下已发生 $p$ 次、失败 $q$ 次,但对其一无所知,如何判断它在给定情形下发生的概率?这是逆概率(inverse probability)问题:由结果反推原因。帕斯卡、费马、惠更斯、棣莫弗处理的都是"正向"概率(由已知原因算结果),而反问题被认为困难得多。
关键思想:贝叶斯设计了一个思想实验——一张水平桌子(或台球桌),一球被随机掷出落在某未知位置 $x$($x$ 服从 $[0,1]$ 均匀分布);此后再掷 $n$ 球,落在该点左侧记为"成功"、右侧为"失败"。已知成功 $p$ 次、失败 $q$ 次,求 $x$ 落在任意子区间的概率。
精确表述:贝叶斯证明,在对先验位置无知(取均匀先验)的假设下,后验概率密度与似然成正比: $$P(x\in[a,b]\mid p\text{ 成 }q\text{ 败})\propto \int_a^b x^p(1-x)^q\,dx.$$ 归一化后即对不完全 Beta 函数的求值。现代形式的贝叶斯定理 $$P(A\mid B)=\frac{P(B\mid A)P(A)}{P(B)}$$ 是这一思想的一般化,主要由拉普拉斯在 1781 年独立给出并系统化(拉普拉斯当时并未读过贝叶斯的论文,后由孔多塞重新发现贝叶斯的工作)。普莱斯为该文写的引言中明确了贝叶斯的初衷:"找出一种方法,使我们在只知道某事件在相同条件下发生了若干次、失败了若干次的情况下,判断它发生的概率。"
与前人关系:逆概率问题在棣莫弗那里已被提及但未解;贝叶斯给出第一个系统解答。其结论被拉普拉斯接受并推广,孔多塞重新发现,直到布尔在《思维规律》中质疑之前未受挑战。
局限性:贝叶斯原文主要处理二项情形且假设均匀先验("principle of insufficient reason");如何选取先验成为后世频率派与贝叶斯派争论的焦点;其积分近似(含误差分析)虽精巧但限于当时计算能力。
2. 二项分布与不完全 Beta 函数的计算
问题背景:逆概率的求解需要对 $\int x^p(1-x)^q\,dx$ 求值,并估计近似积分的误差。
关键思想:在论文及其《补篇》(Supplement,由普莱斯整理)中,贝叶斯给出了不完全 Beta 函数的数值近似方法,并明确讨论了近似所带来的误差——这在概率论文中是较早关注误差界的工作。
精确表述:他用级数展开与分部积分对 $\int_0^\theta x^p(1-x)^q\,dx$ 做近似,并给出余项估计。普莱斯在补篇中进一步改进了近似并计算了若干数例。戴尔(Dale)指出,该文也应因其对纯数学(Beta 积分、级数近似与误差控制)的贡献而被铭记。
与前人关系:斯特林、棣莫弗发展了阶乘与二项的渐近近似;贝叶斯在此基础上处理不完全 Beta 积分。
局限性:近似精度有限,大规模计算需等后世计算机。
3. 为牛顿流数术辩护——匿名回应贝克莱(1736)
问题背景:贝克莱 1734 年《分析学家》攻击微积分逻辑基础,称流数是"消失量的鬼魂",并暗示数学家嘲笑宗教却自身建立在神秘之上。
关键思想:贝叶斯 1736 年匿名发表《流数术导论及为数学家辩护,反驳〈分析学家〉作者的异议》(An Introduction to the Doctrine of Fluxions, and a Defence of the Mathematicians Against the Objections of the Author of The Analyst)。他在序中写道:他"早就认为流数术的首要原理与规则需要更充分、更明晰的解释与证明";他欣赏贝克莱把问题摆到台面上,但反对后者把争论引向宗教利害,并讥讽道:"若一门学科教授们的纷争会贬损该学科本身,那么逻辑学与形而上学比数学更该受贬;既然如此,我若半盲,为何要选一个全盲的人做向导?"
精确表述:他试图用更严格的极限(初/最终比)语言重新表述流数术,是英语世界最早为微积分逻辑基础辩护的文献之一。
与前人关系:与麦克劳林《流数论》(1742)同属回应贝克莱的重要文献,但贝叶斯此文发表更早(1736),且长期匿名、影响较小。
局限性:其严格化仍属早期,未能完全解决无穷小的逻辑困境,最终由 19 世纪柯西等人完成。
4. 观测误差不可无限消除——对辛普森的批评(约 1756)
问题背景:辛普森在 1757 年的备忘录中论证取多次观测的均值优于单次观测,似乎暗示只要观测次数足够多,误差便可任意小。
关键思想:贝叶斯在约 1756 年的一封信中预见到并批评了这一错误:他写道,"认为靠增加观测次数就能把由仪器与感官不完善引起的误差降到零或近乎零,在我看来极不可信。相反,用不完善的仪器做的观测越多,你的结论中的误差似乎就越与所用仪器的不完善成比例……"
精确表述:贝叶斯正确区分了随机误差(可通过平均减小)与系统误差/仪器偏差(不能靠平均消除,决定了精度下限)。这一洞见比法国人近五十年后在博尔达(Borda)复测圆上犯的同类错误早了半个世纪。
与前人关系:直接回应辛普森;是误差理论中深刻的方法论反思。
局限性:仅以书信形式存在,未发展为完整的误差模型(后者由高斯完成)。
5. 渐近级数的发散性——斯特林级数无效性的指出
问题背景:斯特林与棣莫弗给出的 $\log z!$ 的渐近级数,当时被当作收敛级数使用。
关键思想:贝叶斯在一篇身后发表的论文中指出该级数实际上发散,不能当作普通收敛级数求和,只能作为渐近近似在适当项截断。
精确表述:他证明 $\log z! = z\log z - z + \cdots$ 的展开是渐近级数(对固定 $z$ 项数趋于无穷时发散,但取前几项对大 $z$ 有很好的近似)。
与前人关系:纠正了斯特林、棣莫弗工作中的一个隐含误解,是渐近级数概念的早期认识。
局限性:当时渐近分析尚未成为系统学科;完整的渐近级数理论要到 19 世纪庞加莱。
四、代表著作与文献
- 《流数术导论及为数学家辩护》(An Introduction to the Doctrine of Fluxions...,1736,匿名):回应贝克莱,为微积分逻辑基础辩护。
- 《论机会学说中一个问题的求解》(An Essay towards solving a problem in the doctrine of chances,1763 年由普莱斯提交,1764 年刊于《哲学会刊》第 53 卷,含普莱斯的引言与《补篇》):逆概率与贝叶斯定理的奠基文献。
- 关于渐近级数的遗作(身后发表):指出斯特林/棣莫弗 $\log z!$ 级数发散。
- 数学笔记本(未刊,戴尔研究过):概率、三角、几何、级数、微分,及电学、光学、天体力学等。
五、师承、学派与同时代交往
- 师承:无明确师承。早年教育不清(私人教师或 Fund Academy);可能受教于棣莫弗的猜测仅为巴纳德提出的有趣假说,无确证(存疑)。1719—1722 年在爱丁堡学逻辑与神学,未见数学老师记录。
- 学派归属:英国牛顿学派的外围(辩护流数术);不信奉国教知识分子圈。
- 同时代交往:
- 理查德·普莱斯(Richard Price):挚友,发现并整理发表贝叶斯的遗稿,为其写引言,是贝叶斯思想得以传世的关键人物。
- 托马斯·辛普森:贝叶斯在信中批评其观测误差观点。
- 威廉·惠斯顿:1746 年与其共进早餐并记录其数学造诣。
- 乔治·贝克莱:其《分析学家》是贝叶斯 1736 年著作的回应对象(二人未必直接相识)。
- 亚伯拉罕·棣莫弗:概率论的先驱,其工作是贝叶斯逆概率问题的背景;是否曾为其教师存疑。
- 身后对话者:拉普拉斯(1781 年接受并推广其结论)、孔多塞(重新发现)、布尔(1854 年质疑)。
六、争议、公案与历史评价
- 生卒年之争:MacTutor 等记载贝叶斯生于 1702 年;但斯蒂格勒(Stigler)、戴尔(Dale)、霍尔(Hall)等史家主 1701 年;马伊斯托罗夫(Maistrov)、卡尔·皮尔逊(Karl Pearson)、巴纳德则主 1702 年。他 1761 年去世时享年 59 岁的说法(约克大学档案)与 1701/1702 皆可相容。精确生年学界有争议,本档案从"约 1701"。
- 肖像真伪:广为流传的"贝叶斯肖像"被约克大学的史家认为真伪可疑(画上的三处线索与时代不符),是否真为贝叶斯本人尚无定论(存疑)。
- 贝叶斯定理的归属:斯蒂格勒(1983)曾提出一个半开玩笑的"斯蒂格勒定律"式猜想:贝叶斯定理可能更早由剑桥的尼古拉斯·桑德森(Nicholas Saunderson)发现,但证据薄弱,属学界趣谈,未被广泛接受(存疑)。贝叶斯论文本身只处理了带均匀先验的二项逆问题,现代一般形式的定理主要归功于拉普拉斯。
- 为何生前不发表:贝叶斯生前几乎不发表数学著作,其最重要的论文是身后才由普莱斯发现并发表。有推测认为他因对自己的论证(尤其是先验的选择)不够满意而未投出——古德(I. J. Good)认为贝叶斯的"红台球"论证实为障眼法(存疑)。
- 历史评价的起伏:贝叶斯的结论在 18—19 世纪被拉普拉斯接受、孔多塞重发现,但自布尔《思维规律》(1854)起长期受争议——频率派(费希尔、内曼、皮尔逊)在 20 世纪上半叶主导统计学,贝叶斯方法被边缘化;直到 20 世纪下半叶,伴随计算能力提升,贝叶斯推断才复兴,如今成为机器学习与人工智能的核心框架。贝叶斯本人从未想到其思想会有如此命运。
七、身后影响与学术谱系
- 对统计学:贝叶斯定理是贝叶斯统计学的基石;先验→似然→后验的推断范式(经拉普拉斯系统化、20 世纪由杰弗里、萨维奇、古德等复兴)如今与频率派并立。
- 对机器学习与人工智能:朴素贝叶斯分类器、贝叶斯网络、变分贝叶斯、贝叶斯优化、马尔可夫链蒙特卡洛(MCMC)等皆以其思想为基础;是现代 AI 不确定性建模的核心语言。
- 对概率论与决策论:其逆概率思想经拉普拉斯、孔多塞发展为统计推断的源头。
- 对误差理论:关于系统误差不可消除的洞见,是测量与实验方法论的重要先声。
- 对渐近分析:指出渐近级数的发散性,是渐近级数概念的早期认识。
- 命名纪念:贝叶斯定理、贝叶斯统计、贝叶斯网络、贝叶斯概率、朴素贝叶斯等皆以他命名。
八、延伸阅读与权威来源
- MacTutor 数学史档案:Thomas Bayes:圣安德鲁斯大学权威传记,本档案主要史实出处。
- Dictionary of Scientific Biography — Bayes (PDF, MacTutor 托管):科学史权威传记条目。
- Stanford Encyclopedia of Philosophy — Bayes' Theorem:定理的哲学与数学解读。
- Wikipedia: Thomas Bayes:交叉核对生平(生年争议)。
- Wikipedia: Bayes' theorem:定理的现代形式与历史。
- MacTutor: 贝叶斯在伦敦穆尔门的墓:墓地信息。
- MacTutor: 贝叶斯论流数:1736 年为流数术辩护文本。
- A. I. Dale, A History of Inverse Probability: From Thomas Bayes to Karl Pearson (Springer, 1999):逆概率史权威专著。
- A. I. Dale, Most Honourable Remembrance: The Life and Work of Thomas Bayes (Springer, 2003):贝叶斯标准传记。
- Stephen M. Stigler, "Who discovered Bayes's theorem?", The American Statistician 37 (1983):桑德森先发现的趣谈。