人类是信息生物，人类为信息所动，信息太多的结果，自然是为信息所累。
——坤鹏论
一、香农也是站在前人的肩膀上前行
随着这段时间的深入学习，坤鹏论发现，科学，甚至是所有学问，都是拾级而上，后人踏着前人搭成的台阶不断攀向新的高峰。
香农也不例外。
香农确实很伟大。
但是，我们不能忘记那些曾为信息论做出过贡献的科学家。
客观讲，信息论并非全是香农的独创，和许多其他科学的进步一样，他也是在前人许多工作的基础上总结出来的。
我们知道，香农的信息论有两个重点：
第一，信息可度量；第二，噪声与效率的数量关系。
它们都饱含着前人的付出。
1.信息可度量
1924年，美国物理学家奈魁斯特和克普弗勒各自独立提出：通信信号的传输速率与信道频带宽度之间存在着比例关系。
1928年，这个想法被美国电子研究员拉尔夫·文顿·里昂·哈特利推广。
此外，哈特利还提出，有可能用信号数的对数来作为信息的量度。
信息是可度量的，也就是可以用数学方法从数量上加以测度，这是现代信息论的一个重要概念基础。
在香农那篇关于信息论的原始论文中也说到：“奈魁斯特和哈特利的文章已奠定了这一理论的基础。”
此前，坤鹏论在文章中还提到，关于信息可度量这一概念，早在1929年，齐拉特就曾提出，并给出了具体数据。
不过，关于齐拉特，香农明确表示：“我想，齐拉特当时确实是在思考这个问题。他曾跟冯·诺伊曼提起过，而冯·诺伊曼也可能跟维纳说起来，但他们都没有跟我谈到过此事。”
当思想的时代来临之时，在世界各地，彼此隔绝的思想家会说出相同的真理，这种事情在思想史上并不少见。
同样，当科学的时代兴盛，也会出现相似的情况。
再往前追溯，1918年，现代统计学奠基人之一、英国统计学家与遗传学家R.A.费雪，因为需要一个标准来估计实验数据内的信息被某一给定的统计方法所利用的程度，也作出了一个信息的量度。
1948年，香农发表了《通信的数学理论》，其中提出了信息熵公式。
恰恰就在同一年，无独有偶，控制论创始人维纳出版了《控制论》，在该书中也提出了信息量公式。
他在《控制论》一书的导言中明确指出：“必须发展一个关于信息量的统计理论，在这个理论中，单位信息就是对二中择一的事物作单一选择时所传递出去的信息”。
最后，信息量这个概念由费雪、维纳和香农不约而同地以“熵”的形式从数学上表述出来。
香农本人在他关于信息论的原始论文中也以注解的方式提到，他的“通信理论显然地受到了维纳很多基本思想和理论的影响”。
2.噪声与效率的数量关系
在香农发表论文前，也早有人对妨碍通信的噪声作过数学方面的研究。
1936年和1941年，英国工程师兰顿就讨论过噪声的波形，发现了噪声峰值与有效率之间的数量关系。
1940年，德国天文学家弗朗兹·凯撒从数学上讨论了用检波器滤除射频接收机噪声的问题。
1943年的曼恩以及1947年的泷保夫，他们分别用数学方法对噪声波形作了细致的讨论。
自20世纪40年代以来，《贝尔系统技术杂志》不断有这方面的文章出现。
其中，赖斯的两篇论文——《随机噪声的数学》和《随机噪声叠加正弦波的统计特性》值得一提。
前一篇发表于1944年，后一篇发表于1948年1月，正是信息论诞生前的6个月。
以上这些成就，都是应用概率论和数理统计观点，从理论上探讨噪声的性质，对信息论中的“有噪声通道”理论有着十分直接的影响。
当然，就像坤鹏论一直强调的，我们不要神化任何一个人，因为没有人是神。
所以，一个人的成就再大，也不可能十全十美，更不可能无法超越。
就像香农给出的定义和证明也并非总是完整的、正确的。
比如：香农关于通过编码最优化利用有噪声信道的定理，最终被埃米尔·范思坦于1954年证明。
所以，如今被称为香农-范思坦定理。
从上面的描述可见，在当时通信理论已经发到了一个厚积薄发的新阶段——应用数学方法进行理论研究的阶段。
这些在通信中用数学方法进行总结的工作，从理论和思想上为信息论的诞生做好了准备。
所以，香农的信息论也可视为应运而生。
二、香农的信息论只计字数不问内容
正像《熵，粉墨登场！》所讲，熵，诞生之初，很纯真、很纯粹。
它就是克劳修斯要找一个态函数来表述热力学第二定律。
但随着科学发展，熵早已远远超过了克劳修斯的初心。
它作为基本概念被引入热力学，竟带来了科学的深刻变化，拓展了物理内容。
今天，历史赋予熵越来越重要的使命，其作用、影响遍及各个方面。
这绝对是克劳修斯没有想到的。
信息熵也基本复刻了这样的轨迹。
看来，熵这个字就像它的含义一样魔力非凡。
前面坤鹏论一再强调过，香农是个理工男，其信息论的初心很纯粹，很技术。
尽管，信息熵确实像后人所阐述的，有着丰富的内涵，越琢磨越觉得有意义。
但是，除了技术以外，都不是香农当初所设想过的，特别是那些关于信息内容本身的说法。
他的初衷——只是想把电话中的噪音除掉，以及打包和压缩电视信号。
显然，信息的内容对他解决这个问题没有半毛钱关系，有关系的只是信息量。
客观讲，信息内容，实际上已经涉及到了对价值的评估，显然这超出了自然科学的范围。
目前，对此科学还无法做出具有客观性的、大家都能接受的论断。
所以，香农采用电报局的办法，只计字数不问内容，回避了涉及信息内容这一重大而有争议的问题，只在信息量的问题上下功夫。
同样道理，如果以信息量为核心，关键也要先给出具有普遍意义的信息量的定义。
这正是香农建立信息论这一门科学的出发点。
信息熵，就是香农给出的答案。
有了信息熵，就知道还需要输入多少信息量既保证编码最少，又没有误差。
香农的理论在信息与不确定性、信息与熵，以及信息与混沌之间架起了桥梁。
三、香农的贡献怎么赞美都不过分
正是香农的贡献，使得我们可以将高清电影塞进一张薄薄的塑料片里，并且能够观看在线视频。
也是香农的贡献，人类诞生了传真机、电脑、网络、摩尔定律以及世界各地的硅谷。
还是香农的贡献，人类有了信息熵的计算公式。
实话说，解释清楚“信息”是什么都非常不容易，度量它就更非易事。
当然，其更重要的意义在于有了标准。
除了信息都可以压缩而不损失外，这个标准还告诉我们，不是每个字符或者随便什么信号，都能同样进行压缩编码。
比如：某个视频通常可以压缩50%以上，同时不损失任何信息。
但是，所有的压缩都是有限度的。
更高的压缩比会使文件下载和分享更为方便，但压缩后的文件质量会永远受损。
香农所做的工作，无论怎么称赞也不会过誉。
因为没有这个理论，也就没了标准压缩图片，压缩文件，或者高清电影，或是数字通讯。
从录制音乐到探测器向地球传回火星照片，很多数字任务都使用了建立在香农信息论基础上的数据压缩算法。
香农的信息论，使人类开始从铁器时代、蒸气时代向信息时代前进。
马歇尔·麦克卢汉在1964年曾这样评论道：“人类曾经以采集食物为主，如今他们重新要以采取信息为生，尽管这看上去有点不和谐。”
正如《人类是信息生物 万事万物存在的本质是信息》所说，人们已经清楚地认识到，信息是我们这个世界运行所仰赖的血液、食物和生命力，它渗透到各个科学领域，改变着每个学科的面貌。
同样，目前的信息论已经走入到了广义信息论阶段。
尽管信息的数学理论还无法说明任何关于数据的意义，然而它却开启了一种可能，关乎我们如何理解自身以及社会的可能，因为几乎所有的事物都能够用数据测量和编码。
比如：经济学也逐渐认识到自己其实就是一门信息科学。
它所研究的货币，看上去是一种物质财富，其实它也是一种信息。
无论是硬币、纸币，还是金币、贝壳，它们都只不过是阶段性的技术，用来表明谁拥有什么的信息而已。
当然，随着信息的功能越来越多，变得难以计数，它开始显得有些太多了。
很多人都有这样的感受，钱是比以前多了，但是幸福感却远远不如。
这里面很大的原因就在于信息过量，造成了人们的信息疲劳、信息焦虑。
正如坤鹏论所说，人类是信息生物，人类为信息所动，信息太多的结果，自然是为信息所累。
而整体的进步，永远是建立在个体的付出之上，所以，世界越来越美好，但人类个体并未同步，反而在后退。
所有这一切，同样多多少少也和香农有牵连。
当他开启了信息论这扇大门后，世界变化得实在太快了。
曾经，香农的同事，提出“晶体管”这个名词的工程师约翰·罗宾逊·皮尔斯，在1973年谈到信息论可能的影响时说：
“现在很难还原在香农之前的人们所面对的世界图景。尽管我们可以阅读他们留下的著作，但我们很难重拾那种无邪、无知而蒙昧不察的状态。”
本文由“坤鹏论”原创，转载请保留本信息
注：坤鹏论由三位互联网和媒体老兵封立鹏、滕大鹏、江礼坤组合而成。坤鹏论又多了位新成员：廖炜。即日起，坤鹏论所有自媒体渠道对外开放，接受网友投稿！如果你的文章是写科技、互联网、社会化营销等，欢迎投稿给坤鹏论。优秀文章坤鹏论将在今日头条、微信公众号、搜狐自媒体、官网等多个渠道发布，注明作者，提高你的知名度。更多好处请关注微信公众号：“坤鹏论”微信公众号：kunpenglun，回复“投稿”查看，自媒体人可加QQ群交流，群号：6946827
最新评论