信息理论基础教学大纲new

《信息理论基础教学大纲new》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、信息理论基础教学大纲一、课程说明“信息理论基础”是高等学校信息与计算科学专业的专业课程，是学习信息学专业许多课程的基础。它对于理解信息科学有很重要的作用。随着信息处理技术的发展，它越来越显示出它重要的作用。本课程的学习目的是让学生在理解信息理论要解决的基本问题、解决问题的基本想法与实现技巧的基础上培养学生把数学方法与思想应用到其他领域的能力，并为其今后在相关领域工作打下坚实的基础。本课程选自北京航空航天大学出版社出版的《信息理论基础》，习题则有一部分是选择该书的习题，一部分来自授课老师根据自己的体会编写的。教学内容

2、选自书上的第1至第六章与第九章。二、学时分配本课程的总教学时数为54（含复习课）类别标题课时数第一部分信息量的计算（第一、二、三章）第一章：绪论2第二章：简单信息、联合信息、条件信息的信息量的计算4第二章：简单离散信息集合的平均信息量的计算2第二章：连续随机变量的消息量的计算1第三章：扩展信源的有关定义1第三章：几种重要的离散扩展信源6小计16第二部分第四章：离散信道及其容量信道模型的基本概念及信道要考虑的基本问题2信息的损失、躁声与信道要传输的信息量之间的关系2要传输的信息量与信源及信道自身之间的关系2离散无记忆

3、扩展信道与简单信道之间的关系2信道容量的计算、信道的组合方式2小计10第三部分编码与译码（第五、六、九章）第五章：编码器基本概念与从基本途径考虑编码方法设计4第五章：编码方法的进一步改进4第六章：在有躁信道中的编码要考虑的问题4第六章：解决这个问题有哪些基本的方法及效果的理解5第九章：纠错码的几个概念及校验矩阵与生成矩阵的构造2第九章：线性分组码的纠、检错能力2第九章：校验矩阵与最小距离的关系与线性分组码的译码3小计24总结证明方法的总结2计算技巧的总结2小计4合计54三、大纲内容（共54学时）第一部分信息量的计算

4、（第一、二、三章16学时）1、绪论（第一章2学时）信息的定性与定量理解、通信系统模型2、信息的统计度量（第二章7学时）单个事件的信息量的定义、在此基础上理解联合事件的信息量的定义与条件自信息量和互信息量的定义、再过渡到离散集合的平均自信息量、平均条件信息量、平均互信息量的定义、最后介绍连续随机变量的平均自信息量与平均条件信息量和平均互信息量的定义。3、离散信源（第三章7个学时）信源的几个基本概念；三种信源的信息量的计算：离散无记忆信源、马尔可夫信源、离散平稳信源；信源的相关性与剩余度第二部分离散信道及其容量（第四章

5、10学时）1、信道模型的几个基本概念与信息在信道中传输时要考虑的基本问题（2个学时）2、信息的损失与躁声以及与信道要传输的信息量之间的关系（2个学时）3、信道要传输的信息量与信源以及信道自身之间的关系（2个学时）4、离散无记忆扩展信道与简单信道之间的关系（2个学时）5、信道容量的计算与信道的组合方式（2个学时）第三部分编码与译码（第五、六、九章24个学时）1、编码器基本概念与从基本途径考虑编码方法设计（第五章4个学时）2、编码方法的进一步改进（第五章4个学时）3、在有躁信道中的编码要考虑的问题（第六章4个学时）4、

6、解决这个问题有哪些基本的方法及效果的理解（第六章5个学时）5、纠错码的几个概念及校验矩阵与生成矩阵的构造（第九章2个学时）6、线性分组码的纠、检错能力（第九章2个学时）7、校验矩阵与最小距离的关系与线性分组码的译码（第九章3个学时）第四部分总结（4个学时）1、证明方法的总结（2个学时）2、计算技巧的总结（2个学时）数学与信息科学学院2004年2月