信息论复习题44753

《信息论复习题44753》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、信息论概念复习题一、填空1、1948年，美国数学家查理发表了题为“通信的数学理论”的长篇论文，从阳创立了信息论C2、貝们研究信息论的目的是为了高效、nJ靠、安金地交换和利用各种各样的信息。3、信息的可度量性是建立信息论的基础。4、统计度量是信息度量最常用的方法。5、爛是香农信息论最基本最重要的概念。6、事物的不确定度是用时间统计发生概率的对数来描述的。7、单符号离散信源一般用随机变最描述，而多符号离散信源一般用随机矢最描述。8、一个随机事件发生某一结果后所带来的信息量称为口信息量，定义为其发生概率对数的负值O9、口信息量的单位一般有比特、奈特和哈特o1

2、0、必然事件的自信息是_Q_o11、不可能事件的口信息量是二。12、两个相互独立的随机变量的联合口信息量等于两个口信息量Z和o13、数据处理定理：当消息经过多级处理后，随着处理器数目的增多，输入消息与输出消息Z间的平均互信息量趋丁•变小。14、离散平稳无记忆信源X的N次扩展信源的爛等于离散信源X的爛的N倍o15、离散平稳有记忆信源的极限爛，施=辄卅（X“/X{X2・・・Xnt）。16、対于n元m阶马尔可夫信源，其状态空间共有止个不同的状态。17、一维连续随即变量X在［a,b］区间内均匀分布时，其信源嫡为log?（b・a）。丄log°2廊P18、平均功率

3、为P的高斯分布的连续信源，其信源爛，比（X）=2o19、对于限峰值功率的连续信源，当概率密度均匀分布时连续信源爛具有最大值。2（）、对于限平均功率的一维连续信源，当概率密度高斯分布时,信源爛有最大值。22、根据输入输出信号的特点，可将信道分成离散信道、连续信道、半离散或半连续信道。23、信道的输出仅与信道当前输入有关，而L过去输入无关的信道称为无记忆信道。24、具有一一对应关系的无噪信道的信道容量C=log2no25、对称信道的信道容量C=log.m-Hmio26、对于离散无记忆信道和信源祜N次扩展，其信道容量C、_NC_o27、当信道的噪声对输入的干

4、扰作用表现为噪声和输入的线性叠加吋，此信道称为加性连续信道。£10g2（l+牛）28、高斯加性信道的信道容量C=2Pn°29、信道编码定理是一个理想编码的存在性定理，即：信道无失真传递信息的条件是信息率小于信道容帚°30、高斥加性噪藹信道中，信道带宽3kHz,信噪比为7,则该信道的最大信息传输速率Cl9kHzo31、信息率失真理论是量化、数模转换、频带压缩和数据压缩的理论基础。32、求解率失真函数的问题，即：在给定失真度的情况下，求信息率的极小值。33、单符号的失真度或失真函数d（xi，Yj）表示信源发出一个符号Xi，信宿再现为所引起的课并或失真。JO

5、i=j34、汉明失真函数d（X"力）=11&j。35、如果规定平均失真度万不能超过某一限定的值D,即：万WQ。我们把D

6、续信源或模拟信号的信源编码的理论基础是一限失真信源编码定理°X44、对信源l_P（X）诺编码，其编码效率为」43、在香农编码中，笫i个码字的长度ki和p（xjZ间有一1°臣〃（心）W心V1Tog?1心）关系。兀］兀2X3兀4兀5兀6X1兀8进行二进制费1/41/41/81/81/161/161/161/1645、对于香牛编码、费诺编码和哈夫曼编码，编码方法惟一的是一香农编码。46、对于二元序列0011100000011111001111000001111111,其相应的游程序列是23652457。47、设无记忆二元序列中，“0”和“1”的概率分别是p（

7、）和pi，则“0”游程长度L（0）的概率为p[L（0）]=pQ（｝~[Pio48、在多符号的消息序列屮，大量的重复出现的，只起占时作用的符号称为兀余位。49、“冗余变换”即：将一个冗余序列转换成一个二元序列和一个缩短了的多元序列。50、信道编码的最终口的是_提高信号传输的可靠性。51、BSC信道即：无记忆「•进制对称信道。52、任意两个码字之间的最小汉明距离有称为码的最小距（1罰，则血尸吧2（X）。53、若纠错码的最小距离为山曲，则可以纠正任意小于等于t=L2」个差错。54、若检错码的最小距离为（U，则可以检测出任意小于等于1二心血个差错。55、线性分

8、组码是同时貝有分组特性和线性特性的纠错码。56、循环码即是采用循环移位特性界定的一类线性分组码