∑ 数学名人档案库
← 返回 克劳德·香农 简介档案 深度档案
信息论密码学计算机科学

克劳德·埃尔伍德·香农（Claude Elwood Shannon）

信息时代的真正开启者——他在 1948 年的一篇论文里，第一次把「信息」变成了可度量、可压缩、可纠错的数学对象，定义了信息熵与信道容量，证明了有噪信道编码定理，为今天所有的数字通信、互联网、磁盘与视频压缩奠定了理论基石；而他 21 岁的硕士论文把布尔代数引入继电器电路，被称为「有史以来最重要的硕士论文」，是整个数字计算机的逻辑起点。

一、生平与时代背景

克劳德·埃尔伍德·香农 1916 年 4 月 30 日生于美国密歇根州盖洛德（Gaylord）。父亲也叫克劳德·埃尔伍德·香农，是一名商人，曾任盖洛德遗嘱认证法官；母亲梅布尔·凯瑟琳·沃尔夫（Mabel Catherine Wolf）是德语教师，曾任盖洛德高中校长。他是发明家托马斯·爱迪生的远亲（两人同为约翰·奥格登的后裔）。

1932 年他入密歇根大学，1936 年获数学与电气工程双学士学位。MacTutor 指出他在数学上「并不突出」，但他对电路与逻辑有强烈直觉。1936 年他进入麻省理工学院（MIT），在万尼瓦尔·布什（Vannevar Bush）手下工作。布什当时正制造「微分分析仪」（differential analyzer）——一种用齿轮和轴解常微分方程的机械式模拟计算机。香农负责维护它的继电器控制电路，并在这个过程中萌生了用布尔代数分析开关电路的想法。

1937 年他完成硕士论文《继电器与开关电路的符号分析》（A Symbolic Analysis of Relay and Switching Circuits），证明布尔代数可以用来分析和优化继电器开关电路。这篇论文立即被公认为数字电路设计的理论基础，被称为「有史以来最重要的硕士论文」之一（甚至被一些人誉为「20 世纪最重要、最著名的一篇硕士论文」）。1940 年他在 MIT 同时获得电气工程硕士学位和数学博士学位，博士论文是关于群体遗传学的《理论遗传学的代数》（An Algebra for Theoretical Genetics，导师为统计学家 Sewall Wright，存疑：导师确切归属有不同说法，一为 Bush，一为 Wright；论文主题确为群体遗传学）。

1941 年他发表《微分分析仪的数学理论》，分析这种机械计算机可解的函数类与方程类。同年他加入新泽西的 AT&T 贝尔电话实验室，任研究数学家，一直待到 1972 年。在贝尔实验室，他以白天闭门工作、夜晚在走廊骑独轮车闻名。同事 Slepian 写道：「他能在瞬间抓住一个问题……他真是个天才。他是我认识的人里我唯一会用这个词形容的。」

二战期间他参与火控与密码学研究，1945 年完成了密码学内部备忘录《密码学的数学理论》（后于 1949 年以《保密系统的通信理论》发表）。1948 年他在《贝尔系统技术期刊》发表《通信的数学理论》（A Mathematical Theory of Communication），单枪匹马创立了信息论。这篇论文引入了「比特」（bit，他在脚注中把这个词的提出归功于约翰·图基 John Tukey，意为 binary digit 的缩合），提出了通信系统的线性方框图模型，并证明了有噪信道编码定理。

1949 年 3 月 27 日他与玛丽·伊丽莎白·穆尔（Mary Elizabeth "Betty" Moore）结婚，育有三子一女：Robert、James、Andrew Moore 和 Margarita。

1950 年代他把兴趣转向人工智能与「会思考的机器」：1950 年发表《为计算机编制下棋程序》（Programming a Computer for Playing Chess），提出计算机国际象棋的基本策略（极小化极大搜索、位置评估函数），直接催生了 1956 年洛斯阿拉莫斯 MANIAC 计算机上的第一盘计算机棋。同年他造了一只名叫「忒修斯」（Theseus）的电子老鼠，能在迷宫中学习并找到路线——这是早期机器学习与强化学习的雏形。1952 年他演示了一个用电话继电器实现的实验。1956 年他发表论文证明只用两个状态就能构造通用图灵机。他还研究图的边着色问题，并在信息论中引入了图的香农容量（Shannon capacity）。

1956 年他任 MIT 访问教授，1957 年正式加入 MIT 教员，同时保留贝尔实验室顾问身份；1958 年任 Donner 科学教授。在 MIT 走廊他继续骑独轮车、杂耍，还发明了机动弹簧单高跷、双座独轮车、偏心轮轴独轮车（骑起来像鸭子一样上下颠簸）等。他对发明充满乐趣，Marvin Minsky 说：「无论遇到什么，他都带着喜悦投入，用某种出人意料的资源去攻克——可能是一个新技术概念，也可能是一把锤子和锯子加几片木头。」

他晚年觉得信息论的繁荣超出了实际成就，曾写道：「信息论也许膨胀到了超出它实际成就的重要性。」他获得了几乎所有相关最高荣誉：1940 年美国工程师协会诺贝尔奖（Alfred Nobel American Institute of American Engineers Award）、1966 年美国国家科学奖章与 IEEE 荣誉奖章、1985 年音频工程学会金奖与京都奖、2000 年马可尼国际奖学金基金会的马可尼终身成就奖（该机构首次颁发此奖项）。

他罹患阿尔茨海默病，最后几年在马萨诸塞州梅德福的一家养老院度过。2001 年 2 月 24 日去世，享年 84 岁。

二、学术生涯年表

年份 事件
1916 4 月 30 日生于密歇根州盖洛德；父为商人和法官，母为高中校长
1932—1936 密歇根大学，获数学与电气工程双学士
1936 入 MIT，在布什手下维护微分分析仪
1937 完成硕士论文《继电器与开关电路的符号分析》，用布尔代数分析电路
1940 获 MIT 电气工程硕士与数学博士学位（博士论文《理论遗传学的代数》）
1941 发表《微分分析仪的数学理论》；加入贝尔实验室，任研究数学家
1942 与 John Riordan 发表两端串并联网络计数论文
1945 完成密码学备忘录（后以《保密系统的通信理论》1949 发表）
1948 发表《通信的数学理论》，创立信息论，引入「比特」
1949 与 Betty Moore 结婚；发表《保密系统的通信理论》，开创数学密码学
1950 发表《为计算机编制下棋程序》；造「忒修斯」迷宫电子鼠
1952 演示电话继电器实验
1956 任 MIT 访问教授；证明两状态通用图灵机；引入图的香农容量
1957 正式加入 MIT 教员（仍任贝尔顾问）
1958 任 MIT Donner 科学教授
1966 获美国国家科学奖章与 IEEE 荣誉奖章
1972 从贝尔实验室正式退休
1985 获京都奖与音频工程学会金奖
2000 获首届马可尼终身成就奖
2001 2 月 24 日卒于马萨诸塞州梅福德，享年 84 岁（阿尔茨海默病）

三、核心成果（逐条技术解析）

1. 硕士论文：布尔代数与开关电路（1937）——数字时代的逻辑起点

问题背景：继电器与开关电路在 1930 年代被广泛用于电话交换与模拟计算机，但电路的设计与化简完全靠经验与试错，缺乏系统理论。

关键思想：香农指出，继电器的「开/关」状态恰好对应布尔代数的「0/1」，电路的串联对应逻辑「与」（AND），并联对应「或」（OR），常闭触点对应「非」（NOT）。因此任意布尔函数都可由继电器电路实现，而布尔代数的化简规则可用来最小化电路。

意义：这是把逻辑代数与物理电路统一起来的第一篇工作，直接奠定了数字电路设计与数字计算机的逻辑基础。后来图灵、冯·诺依曼的计算机架构都建立在这一思想之上。常被称为「有史以来最重要的硕士论文」。

2. 《通信的数学理论》（1948）——创立信息论

问题背景：通信长期被视为工程问题：电报、电话、无线电各有各的经验。缺少一个统一的数学理论来回答：信息到底是什么？能压缩到什么程度？在噪声中能可靠传输多快？

香农的通信模型：信源 → 编码器 → 信道（含噪声）→ 译码器 → 信宿，外加密码分析者。他把通信抽象为一个概率过程：信源产生符号，信道以某种条件概率传输符号。

信息熵：对一个离散信源，其每个符号的概率为 $p_i$，则信息熵 $$H=-\sum_i p_i\log p_i$$ 度量了信源的平均不确定性（信息量）。对数以 2 为底时单位是比特。

两大基本定理： - 信源编码定理（无噪编码定理）：独立同分布信源的无损压缩码率可以任意接近熵 $H$，但不可能低于 $H$。 - 有噪信道编码定理：对任意信道，存在一个信道容量 $$C=\max_{p(x)} I(X;Y)$$ （$I(X;Y)$ 为互信息），使得对任意码率 $RC$ 时错误概率有正下界，不可能可靠传输。

关键洞见：定理的惊人之处在于它只证明存在性（用随机编码与大数定律），而不给出具体编码——这表明接近容量的码「存在」，但构造它们是另一回事（后来的 Turbo 码、LDPC 码才逼近香农限）。

意义：这是 20 世纪最具影响力的论文之一。Slepian 写道：「本世纪恐怕没有任何单项工作比香农这篇论文更深刻地改变了人类对通信的理解。」它是所有数字通信、数据压缩、互联网、磁盘存储、视频编码的理论基石。「比特」一词由此进入世界。

3. 奈奎斯特—香农采样定理

结果：一个最高频率为 $B$（带宽 $B$ 赫兹）的带限信号，可以由其在间隔不超过 $1/(2B)$ 秒的采样点上的值完全重建（用辛格/香农插值公式）： $$x(t)=\sum_{n=-\infty}^{\infty}x!\left(\frac{n}{2B}\right)\,\operatorname{sinc}!(2Bt-n).$$

与前人关系：这一定理的思想可追溯到奈奎斯特（Harry Nyquist，1928），苏联的科捷利尼科夫（Vladimir Kotelnikov，1933）也独立给出；香农在 1948 年论文中明确表述并证明了它，因此英语世界常称奈奎斯特—香农采样定理（更完整地应称奈奎斯特—科捷利尼科夫—香农采样定理）。

意义：是所有数字音频、图像、信号处理的基础——告诉我们用多少采样点就能完美捕获连续信号。

4. 《保密系统的通信理论》（1949）——数学密码学的奠基

问题背景：密码学长期是军事艺术，缺乏严格数学基础。香农把他的信息论工具用于密码。

结果：定义了完善保密性（perfect secrecy）：在密文已知条件下，明文的后验概率等于先验概率（即密文不泄露任何明文信息）。他证明： - 一次一密乱码本（one-time pad）满足完善保密性； - 要达到完善保密，密钥量至少要等于明文信息量。

他还分析了保密性与冗余度、唯一解距离（unicity distance）的关系。

意义：开创了数学密码学，是现代密码学（包括公钥密码）的理论先驱；1949 年的论文早于公钥密码（1976 Diffie–Hellman）近三十年，但其思想贯穿整个现代密码学。

5. 图的香农容量与零误差容量（1956）

香农在研究零误差通信时引入了图的香农容量 $\Theta(G)$：一个图 $G$ 的香农容量是其幂图 $G^{\boxtimes n}$ 的独立数的 $n$ 次方根的极限，度量了用图的顶点作为码字、以零误差传输时的最大码率。这是信息论与图论的交叉概念。1979 年 Lovász 用「Lovász θ 函数」计算了著名的五阶循环图 $C_5$ 的香农容量 $\Theta(C_5)=\sqrt5$，获 1979 年富尔克森奖与后来的沃尔夫奖。

6. 人工智能与计算的早期探索

四、代表著作与文献

五、师承、学派与同时代交往

六、争议、公案与历史评价

七、身后影响与学术谱系

八、延伸阅读与权威来源