《信息论与编码技术》复习提纲new

《《信息论与编码技术》复习提纲new》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、《信息论与编码技术》复习提纲一、考试题型1.名词解释（10%）2.填空题（20%）3.判断题（10%）4.简答题（20%）5.证明题（10%）6.计算题（30%）二、考试时间1月9日10:20－12:20三、复习题纲第0章绪论题纲：I.什么是信息？II.什么是信息论？III.什么是信息的通信模型？IV.什么是信息的测度？V.自信息量的定义、含义、性质需掌握的问题：1.信息的定义是什么？（广义信息、狭义信息——Shannon信息、概率信息）2.Shannon信息论中信息的三要素是什么？3.通信系统模型图是什么？每一部分的作用的是什么？复习－

2、81.什么是信息测度？2.什么是样本空间、概率空间、先验概率、自信息、后验概率、互信息？3.自信息的大小如何计算？单位是什么？含义是什么（是对什么量的度量）？第1章信息论基础㈠《离散信源》题纲：I.信源的定义、分类II.离散信源的数学模型III.熵的定义、含义、性质，联合熵、条件熵IV.离散无记忆信源的特性、熵V.离散有记忆信源的熵、平均符号熵、极限熵VI.马尔科夫信源的定义、状态转移图VII.信源的相对信息率和冗余度需掌握的问题：1.信源的定义、分类是什么？2.离散信源的数学模型是什么？3.信息熵的表达式是什么？信息熵的单位是什么？信息

3、熵的含义是什么？信息熵的性质是什么？4.单符号离散信源最大熵是多少？信源概率如何分布时能达到？5.信源的码率和信息率是什么，如何计算？6.什么是离散无记忆信源？什么是离散有记忆信源？7.离散无记忆信源的数学模型如何描述？信息熵复习－8、平均符号熵如何计算？1.离散有记忆多符号离散平稳信源的平均符号熵、极限熵、条件熵（N阶熵）的计算、关系和性质是什么？2.什么是马尔科夫信源？马尔科夫信源的数学模型是什么？马尔科夫信源满足的2个条件是什么？3.马尔科夫信源的状态、状态转移是什么？如何绘制马尔科夫信源状态转移图？4.马尔科夫信源的稳态概率、稳态

4、符号概率、稳态信息熵如何计算？5.信源的相对信息率和冗余度是什么？如何计算？㈡《离散信道》题纲：I.信道的数学模型及分类II.典型离散信道的数学模型III.先验熵和后验熵IV.互信息的定义、性质V.平均互信息的定义、含义、性质、维拉图VI.信道容量的定义VII.特殊离散信道的信道容量需掌握的问题：1.信道的定义是什么？信道如何分类？信道的数学模型是什么？2.二元对称信道和二元删除信道的信道传输概率矩阵是什么？3.对称信道的信道传输概率矩阵有什么特点？复习－81.根据信道的转移特性图，写出信道传输概率矩阵。2.先验熵、后验熵的区别？3.联合

5、熵、条件熵和信息熵的关系。4.互信息的大小如何计算？互信息的性质是什么？5.联合互信息、条件互信息、互信息之间的关系是什么？6.平均互信息的定义是什么？平均互信息的含义？平均互信息的性质？7.联合平均互信息、条件平均互信息和平均互信息的关系？8.损失熵和噪声熵的含义是什么？维拉图表示了哪些关系式？9.信道的传码率和传信率（信息率）的计算方法是什么？10.信道容量的定义是什么？信道容量的含义如何理解？11.无噪无损信道、有噪无损信道、无噪有损信道、对称信道的信道容量如何计算？㈢《连续信源和波形信道》题纲：I.连续信源的定义、数学模型、绝对熵

6、、相对熵II.给定条件下，连续信源的最大熵III.熵功率IV.连续信道和波形信道的信道容量需掌握的问题：1.连续信源定义、数学模型是什么？2.连续信源熵的表达式是什么？相对熵和绝对熵的区别是什么？复习－81.如何计算均匀分布、正态分布连续信源的最大熵？2.什么是波形信道？了解波形信道互信息、信道容量的求解思路。3.香农公式是什么？物理意义是什么？第2章无失真信源编码题纲：I.基本概念1.编码2.二元码3.等长码4.变长码5.码的N次扩展码6.唯一可译码II.等长码III.变长码IV.无失真信源编码定理V.编码方法1.香农编码2.费诺编码3

7、.霍夫曼编码需掌握的问题：1.编码的定义及编码相关术语。2.信源编码的定义及目的是什么？3.解释二元码、等长码、变长码、唯一可译码。复习－81.变长码和定长码的区别是什么？用码树描述二者的差异，能够说明变长码和定长码各自的优劣。2.描述香农第一定理及意义。3.掌握香农编码、费诺编码、霍夫曼编码的步骤及特点，会计算编码效率。4.了解游程编码和算术编码的思路。第3章信道编码题纲：I.检错、纠错原理及方法、能力II.差错控制理论1.译码规则2.2种准则下的错误概率III.信道编码定理IV.编码方法1.简单的检错、纠错码2.线性分组码3.循环码需

8、掌握的问题：1.信道编码的定义及目的是什么？2.检错原理是什么？3.差错控制方法有哪些？4.如何确定一种编码的检错、纠错能力？5.汉明距离是什么？汉明重量是什么？最小码距是什么？6.信道编码的