信息论与编码ch1

《信息论与编码ch1》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、信息论与编码信息论与编码数学与信息科学学院数学与计算科学系张效霏E-mail:zxf6216@163.comMobile:131994492792013.5学时－48教材－傅祖芸《信息论－基础理论与应用》（第三版）作业－每周三上交成绩－平时（40％）考试（60％）考勤、作业、互动作业、习题、例题要求－认真听课，作业独立思考，按时上交!预修课程高等代数（线性代数部分）概率论与数理统计数学分析近世代数课程内容学时Ch1绪论-----------------------3Ch2离散信源及其信息测度---9Ch3离散信道及其信道容量---9Ch4波形信源和波形信道--

2、---3&自学Ch5无失真信源编码定理------6ShannonCh6有噪信道编码定理--------3三大定理Ch7保真度准则下的信源编码6Ch8无失真的信源编码-------6Ch9信道的纠错编码----------3参考书信息论-基础理论与应用傅祖芸电子工业出版社编码理论基础沈世镒高等教育出版社信息论与编码理论王育民高等教育出版社ElementsofInformationTheoryThomasM.Cover清华大学出版社影印版信息论基础(美)科弗(美)托马斯机械工业出版社课程概述当今的时代是一个信息的时代，信息处理技术的不断进步极大的影响了我们的生活，使

3、我们的生活质量得到很大提高。本课程将介绍信息科学的基础理论和基本方法，课程将基于一个通信系统的抽象数学模型进行展开，课程的数学基础为概率论。整个课程可分为基础理论和编码理论两部分组成学习方法本课程以概率论为基础，数学推导较多，学习时主要把注意力集中到概念的理解上，不断加深概念的把握，注意各个概念的“用处”，结合其他课程理解它的意义，而不要把它当作数学课来学习，提倡独立思考，注重思考在学习中的重要性。信息论基础的重要性信息论是信息科学和技术的基本理论,信息科学大厦的地基没有信息论的基础，从事通信与信息领域的研究和创新是不可能的事情总之,信息论是高层次信息技术人才必不可少的基础知识第第

4、11章章绪绪论论第1章绪论1.11.1通信系统模型通信系统模型1.21.2信息论研究的中心问题信息论研究的中心问题1.31.3信息论的形成和发展信息论的形成和发展1.11.1通信系统模型通信系统模型P91.1.11.1.1通信系统模型通信系统模型信号+干扰信源编码器信道译码器信宿消息信号消息干扰噪声源信号+干扰信源编码器信道译码器信宿消息信号消息噪声源P101.1.21.1.2通信系统模型进一步细分通信系统模型进一步细分加密器信源纠错信源调制器编码器编码器等效离散信道信信源编码器噪声源道信源纠错信宿解调器译码器译码器等效信宿信道译码器等效离散信道解密器P91.1.3各模块功能

5、信源•定义－产生消息的源•特点－随机发生•核心问题－消息的统计特征和产生消息的速率P91.1.3各模块功能编码器•信源编码器－对信源输出进行变换，求得有效性（数据压缩）•纠错编码器－对信源编码器输出进行变换，提高抗干扰性（添加冗余）•调制器－将信道编码输出变成适合信道传输的方式信源编码信源编码信道编码信道编码P10数据压缩数据压缩添加冗余添加冗余减少冗余减少冗余减少误码率减少误码率有效性有效性可靠性可靠性矛盾！矛盾！P10通信系统的基本任务要求通信系统的基本任务要求有效性有效性－－用尽可能短的时间和尽可能少的设备来传输最大的消息可靠性可靠性－－要使信源发出的消息经过传

6、输后，尽可能准确地、无失真或限失真地再现在接收端P91.1.3各模块功能信道•定义－信号从发端到收端的传输介质•核心问题－信道的统计特性和它的传信能力，即信道容量传输能力＝＝信道容量P91.1.3各模块功能干扰源••为了分析方便为了分析方便，将整个通信系统中各部分引入的各种干扰，如衰落、多径、码间干扰、非线性失真、可加噪声等都集中作用集中作用于信道于信道干扰分两类加性干扰－由外界引入的随机干扰，与信道输入信号统计无关统计无关，信道输出为输入和干扰之和乘性干扰－信号传播中由于物理条件的变化引起信号参量随机随机变化，信道输出为输入与某些随机变量相乘的结果P91.1.3各模块功

7、能译码器•定义－是编码的逆变换，从受干扰的信号中最大限度地提取出有关信源输出消息的信息，应尽可能精确地恢复信源的输出，并将它们递送给信宿•核心问题－研究各种可实现的解调和译码方法P91.1.3各模块功能信宿•定义－是信息的接收者，可以是人或物，且与信源处于不同地点或存在于不同时刻•特点－对传来的消息提出可接受的条件，即提出一定的准则，发端将以此来确定对信源处理时所要保留的最小信息量P71.1.41.1.4信息、消息和信号信息