信息论与编码全部课件

《信息论与编码全部课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、1绪论1.1信息的概念1.1.1信息的定义与性质1.1.2信息的分类1.2信息传输系统的组成及功能1.2.1模拟信息传输系统1.2.2数字信息传输系统1.3信息论研究对象和内容1.4信息论发展简史11.1.1信息的定义与性质古时的通信：烽火台信息传播五阶段：手势和语言——文字——印刷术——电磁波——计算机和通信微电子技术、通信技术和计算机技术促进了信息技术发展。信息产业的发展促进了社会产业结构的变化与发展。21.1.1信息的定义与性质信息：认识主体所感受的或所表达的事物的运动状态和运动状态的变化方式。（1）信息是普遍

2、存在的。（2）信息与物质。（3）信息与能量。（4）人类认识事物，变革事物必须要有信息。信息载体：运载信息的物质。31.1.1信息的定义与性质消息：以文字、语音、图像等这些能够为人们的感觉器官所感知的物理现象，把客观物质运动和主观思维活动的状态表达出来就成为消息。信号：消息的表现形式和载体。同一信息可用不同的信号来表示，同一信号也可表达不同的信息。41.1.1信息的定义与性质信息——十分抽象而又复杂的概念，是人们对客观事物感触到的新认识。消息——信息的载荷者，是描述信息的一种表现形式，是对某个事物的描述和反应。信号——

3、运载或携带消息的任何物理量，达到迅速有效地传递和交换信息的目的。51.1.1信息的定义与性质性质：（1）普遍性：信息是普遍存在的。（2）无限性：信息是无限的。（3）相对性：对同一事物不同的观察者所获得的信息量可能不同。（4）转换性：信息可以在时间上或空间中从一点转移到另一点。（5）变换性：信息是可变的，它可以由不同的载体或不同的方法来载荷。61.1.1信息的定义与性质（6）有序性：信息可以用来消除系统的不定性，增加系统的有序性。（7）动态性：信息具有动态性质，一切活的信息都随时间变化，具有时效性。（8）转化性：在一定

4、条件下，信息可以转化为物质、能量、时间等。（9）共享性：同一信息可以被无限的人所获得，可以交流而不会减少。（10）可量度性：信息的数量与质量是可量度的即信息量。71.1.2信息的分类（1）从性质分：语法信息、语义信息、语用信息。随机方式模糊状态半随机方式确定型方式（模糊信息）连续状态离散状态无限状态有限状态随机方式（概率信息）明晰状态半随机方式（偶发信息）确定型方式（确定信息）语法信息81.1.2信息的分类举例说明，两个布袋中装有对人手感觉完全一样的球，但颜色和数量不同，（1）50个红球和50个白球（2）红球、白球、

5、黑球、黄球各25个随意拿出一个球，被告知是红球所获得的信息量。91.1.2信息的分类（2）按观察的过程分：实在信息、先验信息、实得信息。（3）按信息的地位分：客观信息、主观信息。（4）按作用分：有用信息、无用信息、干扰信息。（5）按逻辑意义分：真实信息、虚假信息、不定信息。（6）按传递方向分：前馈信息、反馈信息。101.1.2信息的分类（7）按生成领域分：宇宙信息、自然信息、社会信息、思维信息等。（8）按应用部门分：工业信息、农业信息、军事信息、政治信息、科技信息、文化信息等。（9）按信息源的性质分：语声信息、图像信

6、息、文字信息、数据信息、计算信息等。（10）按载体性质分：电子信息、光学信息、生物信息等。（11）按携带信息的信号形式分：连续信息、离散信息、半连续信息等。111.2.1模拟信息传输系统该系统传递的是模拟信号，它在任意时刻的取值是任意的，是时间的连续函数。基本模型如图1.1所示：信息源噪声源变换器调制器发射机信道接收机解调器反变换器信息宿接收端发送端信道1.1模拟信息传输系统的一般模型121.2.1模拟信息传输系统信息源：产生含有信息的消息，是被传输的对象。信息宿：信息传送的目的地，即原消息的归宿或接受者。131.2

7、.1模拟信息传输系统变换器：将非电量变换成宜于远距离传输的电信号。反变换器：将信息信号恢复成原消息。141.2.1模拟信息传输系统调制器：将频率较低的信号调制到频率更高的载波信号上。(调制方式有调幅AM、调频FM、调相、单边带调制SSB等)。解调器：从已调的高频载波信号中解调出被传输的低频信息信号。151.2.1模拟信息传输系统发射机：变频器和功率放大器，使已调载波信号的频率和功率达到实际应用所要求的数值。接收机：低噪声高频放大器、混频器、中频放大器，将微弱信号放大到解调器所需强度的信号，并最大限度地降低信道噪声的影

8、响。161.2.1模拟信息传输系统信道：消息的信号从发射端传到接受端的媒质或通道。（有线信道：架空明线、同轴电缆、波导、光纤等；无线信道：无线电波、激光自由空间传播等）噪声源：实际传输系统中客观存在的干扰源，有内部噪声和外部干扰两方面。171.2.2数字信息传输系统该系统中传输的是数字信号，它只能取有限个离散值，且出现的时间也是离散的。基本模型