关于shannon信息论的几点讨论信息论与通信的几个基

《关于shannon信息论的几点讨论信息论与通信的几个基》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、关于Shannon信息论的几点讨论（一）——信息论与通信的几个基本问题西安电子科技大学ISN国家重点实验室报告人：王育民Tel:8201016E-mail:ymwang@xidian.edu.cn2004年12月1目录一、Shannon信息论的划时代意义二、Shannon信息论的几个基本概念三、关于Shannon通信系统模型的合理性和局限性四、信息的广义性五、Shannon信息论在研究方法上的启示参考文献2Shannon信息论的几个基本问题一、Shannon信息论的划时代意义众所周知，信息是构成任何系统的三大要素之，另外两个要素是物质和能量。信息虽然是无形

2、的和抽象的，但它是系统的灵魂。1948年C.E.Shannon发表了他的划时代文章，即《通信的数学理论》，宣告了一门崭新的学科──信息论的诞生。文章给出了可以概括一切通信系统的数学模型，如图1所示；用概率统计数学工具描述了模型中各组成部分：信源、信道、信宿、干扰源、编码器和译码器；给出了信息量的定义，使人们可以定量地研究信息的传输、处理和存储。3Shannon信息论的几个基本问题信源编码器信道译码器信宿干扰源图1通信系统Shannon信息论不仅建立了信源和信道编码定理，给出了有效性的极限，而且为人们明确地指出了实现有效而可靠通信的必由之路是数字化和编码。这

3、是通信技术领域革命的数学或理论基础，而半导体和计算机技术则是这一革命的物理或物质基础。值得指出的是，信息论和晶体管都同时诞生在Bell电话实验室。4Shannon信息论的几个基本问题Shannon所给出的编码定理的证明是非构造性的，而且也不够严格，但他的“数学直观出奇地正确”(A.N.Kolmogrov，1963)。经过无数科技工作者50年来的努力奋斗，不仅在数学上已严格地证明了Shannon编码定理，而且发现了各种具体可构造的有效编码理论和方法，可以实现Shannon指出的极限。现在已可实现几乎无差错地经由Gaussian信道传信，其传信率可达信道容量的

4、80%（A.J.Viterbi,1998），对于非白Gaussian信道，Shannon的注水定理和多载波调制（MCM）技术也可接近于理论限实现的有效和可靠通信。这在当代CDMA、CM(COFDM)、TCM、BCM、Turbo码、LDPC(LowDensityParityCodes)、空时编码、各种均衡技术、对消技术、以及信息存储编码调制技术中都充分体现了Shannon定理的作用。5Shannon信息论的几个基本问题当今，人们不仅在理论发展了Shannon信息论，而且在实际上逐步实现了某些信道下的Shannon理论所指出的理想传信。信息论这一抽象而完美的理

5、论，在几十年后会有如此巨大丰富的技术成果，实在令人惊叹！信息论对实际通信系统的设计已产生了深刻的影响，通信工程师在信息论方面的基础对他们事业的发展有重要的作用。自1948年已来，已过了半个多世纪。IEEE的信息论学会曾在1973发表了系列文章，纪念信息论诞生25周年，出版了Shannon著作集，在1998又举行了一系列纪念活动，纪念信息论诞生50周年，并出版了专集。伟大的学者Shannon也已于2001年2月24日在纽约谢世。6Shannon信息论的几个基本问题五十年后的今天，通信、计算机和半导体技术的发展已将人类社会推进到一个崭新的信息时代。信息在现代社

6、会中的作用愈来愈大，社会对信息的需求愈来愈大。通信、广播、影视、出版等正在从模拟到数字，从单一媒体到多媒体，从人工、机械化到智能化、从局部联网到全球通信网。七、八十年代完成了通信与计算机的结合（C&C）。Internet的出现，为人类交换信息，促进科学、技术、文化、教育、生产的发展，提高现代人的生活质量提供了极大的便利，大大加速了人类信息化社会的进程。再加上九十年代又开始了通信、计算机和消费电子（3C——Communications,Computer,Consumerelectronics）的三结合。7Shannon信息论的几个基本问题信息高速公路或全球信

7、息基础设施（GII）的提出和建设，构成了人类生存的信息环境，即信息空间(Cyberspace)。这个虚拟空间的形成和发展将人类社会推进到一个新的发展阶段，即信息化社会阶段。为人们提供了更方便、更舒适的工作和生活环境，它对人类社会的发展将产生巨大的影响。信息化社会导致经济全球化和知识化。互联网已成为社会资源重新分配的根本工具。信息化社会导致第三次军事革命，联合作战和信息化作战成为重要作战型式，数字化部队和数字化战场也跟着诞生。8Shannon信息论的几个基本问题信息化社会中，人们的一切活动都将在信息空间中进行竞争和接受检验。信息化社会中，许多有形的东西开始向

8、数字的、无形的方向转变。信息化社会也使人们越来越忙碌、越来越浮躁，