深度学习
在文字出现以前,人类的信息主要通过语言来传递。个人的知识来自族人的口授,集体的记忆来自祖辈的传说。文字的出现使 信息不再稍纵即逝,可以更好地跨越时空。甚至有些人认为,书面文字(持久存在的文字)是我们所理解的有意识思考的前提条件。它触发了人类灵魂不可逆转的大 规模变化。逻辑是书面文字的产物,是文字造就了人类的思维和历史[1]。
印刷术的发明是信息传播方式里程碑式的进步之一。印刷术使知识传播的范围和有效性得到了极大的提高。在人类走出中世纪,迎来文艺复兴、启蒙运动和科学革命的进程中,印刷术扮演了重要角色。
时间推进到19世纪后期,随着第二次工业革命的到来,电力得到广泛使用,信息传输技术也得到了又一次跨越式的发展。人 们发明了电报,文字被转换为莫尔斯码;人们发明了电话,电流承载着信息。从此以后,一个以“信息”为关键词的时代慢慢拉开了它的大幕。20世纪40年代, 信息时代迎来了它最伟大的推手:香农。
香农曾向麻省理工学院的万内瓦尔·布什透露,研究传递信息的一般系统的某些基本属性是他一直的兴趣所在[2]。
1948年,香农发表了《通信的数学原理》,这篇具有划时代意义的论文奠定了现代信息论的基础。在文章中,香农为人类 引入了一个新的单词——比特(bit)。牛顿量化了力,建立起经典物理学的大厦;香农量化了信息,打下了人类进入信息时代的基础。如今比特作为衡量信息多 少的单位,已经与米、千克、分钟一样,成为人类生活中最基本的量纲之一。1949年,香农又有了重量级的发现,他公开发表的《保密系统的通信理论》一文, 开辟了用信息论来研究密码学的新思路。这一发现将密码从艺术变成科学。
通信的基本问题是,在一点精确地或近似地复现从另一点所选取的信息[3]。从密码分析者的角度来看,一个保密系统几乎就是一个通信系统。待传的消息是统计事件,加密所用的密钥按概率选出,加密结果为密报,这是分析者可以利用的,类似于受扰信号[4]。在香农的理论里,信息传输、处理、检测和接收过程,与密码系统中的加密、解密、分析和破译过程都可以用信息论的观点进行分析和研究。密码系统本质上也是一种传递信息的系统。
在香农对信息的概念加以简化,并用比特(bit)作为量纲衡量后,人们发现信息几乎无处不在。比特(bit)的出现在后来引领了计算机、网络、摩尔定律以及如今发达的信息和互联网产业。
互联网的诞生标志着信息时代的真正到来。从此信息的产生与传输开始以前所未有的速度进一步突破时空限制,我们甚至正在迎来一个信息爆炸的时代。而互联网带来的信息革命,已经深刻地改变了全球的商业格局及我们每个人的生活方式。
[1] 詹姆斯·格雷克,《信息简史》,人民邮电出版社。
[2] 引用自http://ethw.org/Oral-History:Claude_E._Shannon。
[3] Claude E. Shannon, Warren Weaver. The Mathematical Theory of Communication. Univ of Illinois Press, 1949. ISBN 0-252-72548-4.
[4] 引用自http://netlab.cs.ucla.edu/wiki/files/shannon1949.pdf。
来源:我是码农,转载请保留出处和链接!
本文链接:http://www.54manong.com/?id=686
微信号:qq444848023 QQ号:444848023
加入【我是码农】QQ群:864689844(加群验证:我是码农)
全站首页 | 数据结构 | 区块链| 大数据 | 机器学习 | 物联网和云计算 | 面试笔试
var cnzz_protocol = (("https:" == document.location.protocol) ? "https://" : "http://");document.write(unescape("%3Cspan id='cnzz_stat_icon_1276413723'%3E%3C/span%3E%3Cscript src='" + cnzz_protocol + "s23.cnzz.com/z_stat.php%3Fid%3D1276413723%26show%3Dpic1' type='text/javascript'%3E%3C/script%3E"));本站资源大部分来自互联网,版权归原作者所有!
评论专区