信息论与编码”期末复习题

《信息论与编码”期末复习题》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、信研10“信息论与编码”期末复习题1.信息论基础（狭义信息论/景点信息论/香农信息论）主要研究的二个方而是什么？信息测度、信道容量、信息率失真函数2.全信息同时考虑的三个方而的内容是什么？语法信息、语义信息、语用信息3.研究信息论的目的是什么？寻找信息传输过程的共同规律，以提高信息传输的可靠性、有效性、保密性等，已达到信息传输系统的最优化4.消息、信号、信息的含义、定义及区别。信息一事物运动的状态及状态变化的方式。消息一包含信息的语言，文字和图像等。信号一消息的物理体现。消息是信息的数学载体、信号是信息的物理载体同一信息，可以采用不同形式的物理量来载荷，也可以采用不同的数学描述方式同一类型

2、信号或消息也可以代表不同内容的信息5.信息的特征与分类。1.接收者在收到信息之前，对其内容是未知的，所以信息是新知识，新内容；2.信息是能使认识主体对某一事物的未知性或不确定性减少的有用知识；3.信息可以产生，也可以消失，同时信息可以被携带，被存储及处理；4.信息是可以量度的，信息量有多少的差别6.狭义信息论、广义信息论、一般信息论研究的领域。狭义信息论：信息论是在信息可以量度的基础上，对如何有效，可靠地传递信息进行研究的科学。它涉及信息量度，信息特性，信息传输速率，信道容量，干扰对信息传输的影响等方面的知识。广义信息论：信息是物质的普遍属性，所谓物质系统的信息是指它所属的物理系统在同一切

3、其他物质系统全面相互作用（或联系）过程中，以质、能和波动的形式所呈现的结构、状态和历史。包含通信的全部统计问题的研究，除了香农信息论之外,还包括信号设计，噪声理论，信号的检测与估值等。概率信息：信息表征信源的不定度，但它不等同于不定度，而是为了消除一定的不定度必须获得与此不定度相等的信息量1.通信系统的物理模型（很要框图），各单元（力框）的很要功能及要解决的丄要问题。信源--如何确定信息量。信宿一能收到或提取多少信息.信道一信道容量的多少2.通侑的目的？要解决的最基木问题？通信有效性的概念。提髙通信有效性的最根本途径？通信对靠性的概念。提高通信对靠性的最根本途径？3.随机事件的不确定度和它

4、的自信息量之间的关系及区别？单符号离散信源的数学模型，自信息量、条件自信息量、联合自信息量的含义？4.信息量的性质？含义？分别从输入端、输出端和系统总体来理解互倍息量的含义。5.互信息的定义及物理意义？6.各种爛（信源嫡，条件爛，联合嫡（共爛），等）的含义及其关系。7.信源嬌的基木性质与定理及其理解？8.平均互信息量的定义及物理意义？9.信道疑义度和噪声嫡的物理意义是什么？10.平均互信息量的性质及理解？11.证明平均互信息量关于信源概率和信道转移概率的凸性定理。12.最大离散爛定理及其证明。13.凸函数的定义及其性质，定理。14.数据处理定理及其含义，证明。15.信源的种类（详细分类）？

5、各举出几个例子。16.离散平稳信源的定义，平均符号爛，极限爛的定义，含义与理解。17.马尔对夫信源的定义，含义及其极限嫡？18.信源的兀余度的定义和含义？为什么有些信源有兀余度？兀余度的好处与坏处，及其计算。1.写出平均互信息的三种表达公式，并说明其物理意义。2.写出二进制的爛函数，并画出爛与概率的关系图。3.极限爛与条件爛的关系（二进制）。4.连续信源的嫡的定义及其推导？5.连续信源嫡的性质。6.爛功率的含义，均值为0,平均功率受限的连续信源的兀余度的计算？7.Shannon第一定理一离散无失真信源编码定理（定长和变长）及含义？举例说明其应用。32•证明关丁前缀码存在的克拉夫特不等式。3

6、3.信道的数学模型和分类？34.什么是信道容最？简述求信道容最的方法。35.信息传输速率R的定义？信道转移概率、信道矩阵和信道容量C的泄义？儿种离散无噪信道的C?36.强对称，对称，准对称信道的含义及其C?37•离散信道容量的一般计算方法推导及其步骤？38.写出二进制均匀信道的数学表达式，并画出信道容量C与信道转移概率p的曲线图。39.简述著名的香农公式，说明其物理含义。40.多用户信道的定义及分类。41.连续信道，连续信道的C的定义及推导。42.香农公式的推导及含义？43.Shannon第二定理（信道编码定理）及其含义？举例说明其应用。44.对信源编码器有些什么基本要求？编码效率的定义？

7、如何提高编码效率？45.什么是最佳编码？说出Shannon、Fano和Huffman编码的基本方法和主要特点。46.算术编码相关定义与步骤？47.简要说明最大似然译码准则。48.什么叫失真度？平均失真度？允许平均失真度？分述其物理意义。49.保真度的定义及其含义？50.什么是汉明失真矩阵？51.信息率失真函数R（D）的定义、性质及其含义？％。）与（2的比较？52.信息率失真函数R（D）'

8、＞的白变量D的物理意义是什么？3