克劳德·香农
克劳德·艾尔伍德·香农（英语：Claude Elwood Shannon，1916年4月30日—2001年2月24日），美国数学家、电子工程师和密码学家，被誉为信息论的创始人。[1][2]香农是密歇根大学学士，麻省理工学院博士。
| 克劳德·香农 Claude Shannon | |
|---|---|
 | |
| 出生 | 1916年4月30日 美国密歇根州佩托斯基 |
| 逝世 | 2001年2月24日（84岁） 美国马萨诸塞州梅德福 |
| 母校 | 密歇根大学（BA、BS） 麻省理工学院（MS、PhD） |
| 知名于 |
|
| 配偶 | 诺玛·莱沃 （1940年结婚—1941年结束） 贝蒂·香农 （1949年结婚—2001年结束） |
| 奖项 | 斯图亚特·巴兰汀奖章（1955） IEEE荣誉奖章（1966） 美国国家科学奖章（1966） 哈维奖（1972） 克劳德·E·香农奖（1972） 哈罗德·彭德奖（1978） 约翰·弗里茨奖（1983） 京都奖（1985） 马可尼协会终身成就奖（2000） 国家发明家名人堂（2004） |
| 科学生涯 | |
| 研究领域 | 数学、电子工程 |
| 机构 | 贝尔实验室 麻省理工学院 普林斯顿高等研究院 |
| 论文 | |
| 博士导师 | 弗兰克·劳伦·希区考克 |
| 博士生 | 丹尼尔·希利斯 伊凡·苏泽兰 伯特·萨瑟兰 |
1948年，香农发表了划时代的论文——《通信的数学理论》，奠定了现代信息论的基础。不仅如此，香农还被认为是数字计算机理论和数字电路设计理论的创始人。1937年，21岁的香农是麻省理工学院的硕士研究生，他在其硕士论文中提出，将布尔代数应用于电子领域，能够构建并解决任何逻辑和数值关系，被誉为有史以来最具水平的硕士论文之一[3]。二战期间，香农为军事领域的密码分析——密码破译和保密通信——做出了很大贡献。
生平
香农出生于密歇根州佩托斯基 。父亲克劳德（1862–1934）与他的姓名完全相同，是新泽西州早期移民的后裔，曾自主创业经商，也担任过审核遗嘱的法官。母亲玛贝尔·沃夫·香农（1890–1945）是德国移民的女儿，职业是语言学教师，曾长期担任密歇根州盖洛德高中的校长。香农人生的前16年都是在盖洛德度过，他在那儿接受了公立学校教育，并于1932年从盖洛德高中毕业。香农对机械和电气电子表现出了极大爱好。他最优秀的学科就是科学和数学，并在家中制作了模型飞机、无线电控制的模型船和一个可与半英里内的朋友家联系的无线电报系统。大一点的时候，他做过西联汇款的投递员。
布尔理论和二战前研究
1932香农进入密歇根大学学习，在大学的一门课程中接触到了乔治·布尔的理论。1936年大学毕业时，香农获得了两个学士学位：电子工程学士和数学学士。不久，香农进入麻省理工学院开始研究生学习，参与了万尼瓦尔·布什的微分分析机（Differential Analyzer）的相关工作。微分分析机是一种模拟计算机，是现代电脑的鼻祖。[4]
在研究微分分析机的自组织（ad hoc）电路时，香农发现引入布尔理论的概念会带有很大的好处。在1937年硕士论文的基础上，香农在1938年发行的Transactions of the American Institute of Electrical Engineers上发表了著名论文“A Symbolic Analysis of Relay and Switching Circuits”[5]。由于这篇论文，香农于1940年被授予美国Alfred Noble协会美国工程师奖。哈佛大学的哈沃德·加德纳称香农的硕士论文“可能是本世纪最重要、最著名的硕士学位论文”。
在这篇论文中，香农证明了布尔代数和二进制算术可以简化当时在电话交换系统中广泛应用的机电继电器的设计。然后，香农扩展了这个概念，证明了基于机电继电器的电路能用于模拟和解决布尔代数问题。
用电子开关模拟布尔逻辑运算是现代电子计算机的基本思路，香农的工作成为数字电路设计的理论基石，完全取代了之前盛行的ad hoc方法。Vannevar Bush建议香农将类似的数学方法应用于孟德尔遗传学，香农接受了这个建议，写出了An Algebra for Theoretical Genetics。凭此论文，香农于1940年获得麻省理工学院博士学位。
1940年，香农成为普林斯顿高等研究院的研究员。在那里香农有很多机会与当时有影响力的科学家和数学家交流，比如阿尔伯特·爱因斯坦、赫尔曼·外尔和约翰·冯·诺伊曼，现代信息论的思想逐渐在他脑海中成型。
二战期间的研究
二战期间，香农加入贝尔实验室，研究火力控制系统和密码学，相关课题直属国防研究委员会领导。
在贝尔实验室，香农遇到了担任数值分析员的Betty。两人于1949年结婚。
1943年，香农有机会和英国数学家和密码学家艾伦·图灵合作。图灵被派到华盛顿和美国海军交流破译德国的北大西洋潜艇舰队密码的成果，并在贝尔实验室待了一段时间。香农和图灵在一个自助餐厅见面。图灵向香农介绍了现在被称为“通用图灵机”[6][7]的概念。香农对此很感兴趣，因为图灵机的概念和香农自己的很多想法相吻合。
1945年，战争进入尾声，国防研究委员会NDRC的使命即将结束。在正式解散之间，NDRC决定将重要研究成果整理成册，其中有一篇论文“火力控制系统的数据平滑和数据预测”是香农和雷夫·毕比·布莱克曼、亨德里克·韦德·波德一起写的，它的思路和“通信系统中将信号和噪声相分离”[8]是类似的，也就是说，香农在火力控制系统研究中已经发现了后来成为信息论的基本概念和框架体系。
战时香农在密码学领域的研究与通信领域的关系更加密切。1945年，香农向贝尔实验室提交了一份备忘录，题目是“密码学的一个数学理论”，之后在1949年以“保密系统的通信理论”的标题在Bell System Technical Journal正式发表，包含了很多在“通信的一个数学理论”出现的概念和数学公式。香农说，战时对通信理论和密码学的研究使他认识到“两者密不可分”。[9]
还是在贝尔实验室，香农证明了一次性密钥（cryptographic one-time pad）是无法被破译的。香农同时证明了一个无法被破译的密码系统的密钥必须有以下特征：完全随机；不能重复使用；保密；和明文一样长。[10]
战后的贡献
1948年，划时代的“通信的一个数学理论”分成两部分，在7月和10月的Bell System Technical Journal发表。文章系统论述了信息的定义，怎样数量化信息，怎样更好地对信息进行编码。在这些研究中，概率理论是香农使用的重要工具。香农同时提出了信息熵的概念，用于衡量消息的不确定性。
1949年，香农和沃伦·韦弗合著了“通信的数学理论”，包含了香农1948年的论文“通信的一个数学理论”和韦弗为非专业人士写的介绍通信理论的内容。韦弗指出，在信息论中"information"这个词不是指“你说了什么”，而是指“你能够说什么”，也就是说，信息表示人们可有多少选择。之后，约翰·罗宾森·皮尔斯在“Symbols, Signals, and Noise”这本书中也对香农的概念作了通俗的介绍。
1951年，香农写了"Prediction and Entropy of Printed English"，说明信息基础理论能够应用于自然语言和计算机语言，计算了英语这门语言的熵，从而为从统计的角度分析语言打下了基础。而且，香农认为如果把空格当作英语字母表上的第27个字母，能够降低提取英语处理的不确定性。
数字通信的基础理论——抽样分析理论——的提出也有香农的贡献。抽样分析理论将连续的模拟信号抽样成离散的数字信号，为20世纪60年代之后数字通信的兴起奠定了基础。
1956年，香农返回MIT。
爱好和发明
除了学术研究，香农爱好杂耍、骑独轮脚踏车和下棋。香农发明了很多用于科学展览的设备，比如火箭动力飞行光盘、一个电动弹簧高跷和一个喷射小号。香农的办公桌上放着一个他称之为“终极机器”的盒子，这是香农众多好玩的发明之一，是根据人工智能研究的先驱、数学家马文·闵斯基提出的想法而做出来的。这个盒子外表平淡无奇，只是在一侧有一个开关，弹一下开关，盒盖就会打开，一个机械手会伸出来；将开关复原，机械手就缩回盒子。香农还做了一个设备能够复原魔方。
获奖与荣誉
- 美国科学院院士、伦敦皇家科学院院士、利奥波第那科学院院士（德国）
- 美国Alfred Noble协会美国工程师奖（1940年）
- IEEE莫里斯·N·利布曼纪念奖（1949年）
- 耶鲁大学首席科学家（1954年）
- 斯图亚特·巴兰汀奖章（1955年）
- 研究合作奖（1956年）
- 密歇根大学荣誉博士（1961年）
- 莱斯大学荣誉奖章（1962年）
- 普林斯顿大学荣誉博士（1962年）
- 梅文·J·凯利奖章（1962年）
- 爱丁堡大学荣誉博士（1964年）
- 匹兹堡大学荣誉博士（1964年）
- IEEE荣誉奖章（1966年）
- 美国国家科学奖章（1966年）
- 美国成就学院金盘奖（1967年）
- 美国西北大学荣誉博士（1970年）
- 哈维奖（1972年）
- 牛津大学荣誉博士（1978年）
- 约瑟夫·雅卡尔奖（1978年）
- 哈罗德·彭德奖（1978年）
- 东英吉利亚大学荣誉博士（1982年）
- 卡内基梅隆大学荣誉博士（1984年）
- 美国声频技术协会金奖（1985年）
- 京都奖（1985年）
- 塔夫斯大学荣誉博士（1987年）
- 宾西法尼亚大学荣誉博士（1991年）
- Eduard Rhein Prize（1991年）
参见
参考文献
- ^ Ioan James. Claude Elwood Shannon 30 April 1916 — 24 February 2001. Biographical Memoirs of Fellows of the Royal Society. 2009-12-01, 55: 257–265 [2018-04-02]. ISSN 0080-4606. doi:10.1098/rsbm.2009.0015. （原始内容存档于2017-07-03） （英语）.
- ^ Bell Labs website: "For example, Claude Shannon, the father of Information Theory, had a passion...". [2013-05-21]. （原始内容存档于2011-06-05）.
- ^ Poundstone, William. Fortune's Formula : The Untold Story of the Scientific Betting System That Beat the Casinos and Wall Street. Hill & Wang. 2005. ISBN 978-0-8090-4599-0.
- ^ Robert Price. Claude E. Shannon, an oral history. IEEE Global History Network. IEEE. 1982 [14 July 2011]. （原始内容存档于2012-10-10）.
- ^ Claude Shannon, "A Symbolic Analysis of Relay and Switching Circuits," （页面存档备份，存于互联网档案馆） unpublished MS Thesis, Massachusetts Institute of Technology, August 10, 1937.
- ^ Turing, A.M., On Computable Numbers, with an Application to the Entscheidungsproblem, Proceedings of the London Mathematical Society, 2 42, 1936, 42: 230–651937, doi:10.1112/plms/s2-42.1.230
- ^ Turing, A.M., On Computable Numbers, with an Application to the Entscheidungsproblem: A correction, Proceedings of the London Mathematical Society, 2 43 (6), 1938, 43 (6): 544–61937, doi:10.1112/plms/s2-43.6.544
- ^ David A. Mindell, Between Human and Machine: Feedback, Control, and Computing Before Cybernetics, (Baltimore: Johns Hopkins University Press), 2004, pp. 319-320. ISBN 978-0-8018-8057-5.
- ^ quoted in Kahn, The Codebreakers, p. 744.
- ^ Shannon, Claude (1949). "Communication Theory of Secrecy Systems". Bell System Technical Journal 28 (4): 656–715.
- ^ The Invention of the First Wearable Computer Online paper by Edward O. Thorp of Edward O. Thorp & Associates (PDF). [2012-11-05]. （原始内容存档 (PDF)于2008-05-28）.
- 克劳德·艾尔伍德·香农：《通信的数学理论》（A mathematical theory of communication）贝尔系统技术月刊l,27卷,379-423,623-656页, 1948年7月,10月
- 克劳德·艾尔伍德·香农和Warren Weaver:《通信的数学理论》伊利诺伊大学出版社, Urbana,伊利诺伊,1949年. ISBN 978-0-252-72548-7
外部链接
- 香农的生活和生涯
- 《保密系统通信理论》（Communication Theory of Secrecy Systems）：Scanned JPEG images，PDF（页面存档备份，存于互联网档案馆），PDF site.
- 通信的数学理论（页面存档备份，存于互联网档案馆）
- 麻省理工讣告（页面存档备份，存于互联网档案馆）
- Obituary Royal Netherlands Academy of Sciences (in Dutch)
- 在密歇根大学的回顾
- Notes on Computer-Generated Text
- 香农的贡献
- 香农的判别理论和判别机器人
- 香农的关于计算机下象棋的论文，文本（页面存档备份，存于互联网档案馆）
- 香农的关于计算机下象棋的论文,PDF（页面存档备份，存于互联网档案馆）
- 香农的关于计算机下象棋的论文，文本，原稿（页面存档备份，存于互联网档案馆）
- 《信息科学技术概论》附录1《信息论的奠基人—香农》（页面存档备份，存于互联网档案馆）