信息论基础教学大纲

《信息论基础教学大纲》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、《信息论基础》课程教学大纲课程编号：总学时数：48总学分数：3课程性质：专业必修课适用专业：一、课程的任务和基本要求：信息论基础即香农信息论是研究信息处理的数学规律性的数学理论分支之一，是以概率论和随机过程为主要工具研究通信系统极限性能的科学理论。重点解决关于信息传输的有效性和可靠性的理论问题，是信息科学与相关专业的必修专业课程。本课程的指导思想是既要到理论的严谨性,更要考虑本专业的实用性,既要求掌握基本原理,又要求了解新理论与新技术。通过该门课程的学习，期望学生能较好地理解香农信息论的基本思想与基本原理，掌握几个基本运算方法，培养学生利用

2、信息论的基本原理分析和解决实际问题能力，从而提高学生的数学素质，加强学生开展科研工作能力。为今后进行更深入的研究奠定良好的理论基础。二、基本内容和要求：第1章 绪论§1.1 基本概念§1.2 数字通信系统模型§1.3 信息论与编码理论研究的主要内容和意义要求：理解信息论的形成与发展，通信系统模型，掌握信源、信宿、信道、信息、消息、信号等基本概念，了解通信系统信源编码器、信道编码器有关基本原理及功能。第2章 信源及其熵§2.1 信源的数学模型和分类§2.2 离散信源的信息熵及其性质§2.3 离散无记忆信源的扩展信源§2.4 离散平稳信源§2.

3、5 连续信源的信息熵§2.6 信源的冗余度§2.7 离散无失真信源编码定理要求：理解信源的分类与描述方式，掌握自信息量、信源熵、互信息等相关的基本概念、公式以及熵的基本性质，了解最大熵定理及其冗余度的相关问题。第3章信道及其容量§3.1信道的数学模型与分类§3.2信道疑义度与平均互信息§3.3离散无记忆的扩展信道§3.4离散信道的信道容量§3.5连续信道的信道容量§3.6信源与信道的匹配§3.7信道编码定理要求：理解信道模型及其相关的实际信道，掌握信道容量的概念并会计算各种信道的信道容量。了解香农公式、香农第二编码定理——信道编码定理。第4

4、章信息率失真函数4.1失真测试4.2信息率失真函数及其性质4.3离散无记忆信源的信息率失真函数4.4连续无记忆信源的信息率失真函数4.5保真度准则下的信源编码定理要求：掌握信息率失真函数，失真的度量，了解率失真定理，即香农第三定理及率失真函数的计算。第5章信源编码5.1编码器和相关概念5.2变长编码5.3限失真信源编码5.4实用信源编码方法要求：理解无失真信源编码的编码定义，掌握最佳编码以及相关的编码方法，给出编码效率。了解无失真信源的定长及变长编码定理。第6章信道编码6.1信道编码的概念6.2线性分组码6.3循环码6.4卷积码要求：掌握线

5、性分组码的概念、编码方法、生成矩阵及效验矩阵。掌握卷积的编码方法及维比特译码算法。掌握线性分组码的伴随式与标准阵列译码表。了解差错控制及编、译码的基本原理。三、实践环节和要求：无四、教学时数分配：理论：48实验：0上机：0其它：0教学内容学时分配教学内容学时分配第1章绪论2第2章 信源及其熵10第3章信道及其容量8第4章信息率失真函数6第5章信源编码8第6章信道编码10习题课4合计48五、其它项目（含课外学时内容）：无六、有关说明：1、教学和考核方式：本课程属考试课，考核方式为闭卷。平时占30%，期末占70%。2、习题：根据教学内容完成每章

6、节的部分基本习题，约占总题量的50%。3、能力培养要求：通过该门课程的学习，就是让学生能很好地理解香农信息论的基本思想与基本原理，掌握运算方法，培养学生利用信息论的基本原理分析和解决实际问题能力，为今后进行更深入的研究奠定良好的理论基础。4、与其它课程和教学环节的联系：先修课程和教学环节：高等数学、概率论后续课程和教学环节：密码学、数据压缩理论、数字图像处理技术平行开设课程和教学环节：随机过程5、教材和主要参考书目：（1）教材：信息论与编码技术冯桂、林其伟、陈东华编著清华大学出版社，2007（2）主要参考书目：①信息论——基础理论与应用傅祖

7、云、赵建中电子工业出版社，2001；②信息论与编码陈运、周亮、陈新电子工业出版社，2002；③信息论基础周荫清北京航空航天大学出版社，1993；