信息论复习题

《信息论复习题》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、复习题1选择题(共10分，每小题2分)1、有一离散无记忆信源X,其概率空间为~x~p0.50.25兀3兀40.1250.125则其无记忆二次扩展信源的爛H(X2)=()A、1.75比特/符号；B、3.5比特/符号;C、9比特/符号；D、18比特/符号。4刃仪)H)的)002、信道转移矩阵为00AyA)_00000000,其4%/兀3)尸0”不)_屮P(yj/xi)两两不相等，则该信道为A、对应的无噪信道B、具有并归性能的无噪信道C、对称信道D、具有扩展性能的无噪信道3、设信道容量为C,下列说法正确的是：()A、互信息量一定不大于CB、交互爛一定不小于CC、冇效信息量一

2、定不大于CD、条件爛一定不大于C4、在串联系统中，冇效信息量的值()A、趋于变大B、趋于变小C、不变D、不确定5、若BSC信道的差错率为P,则其信道容量为：()log2(l-p)p'PB、-r】—D、-Plog(P)6、设信道输入为xm,输出为y,若译码准则是当P(yIxm')2P(y

3、xm),对所有m丰m,时，将y判为则称该准则为()A最大后验概率译码准则B最小错误概率准则C最大相关译码准则D最大似然译码准则7、线性分组码不具有的性质是()A任意多个码字的线性组合仍是码字B最小汉明距离等于最小非0重量C最小汉明距离为3D任一码字和其校验矩阵的乘积cmHT=O8.条件

4、爛H(X

5、Y)H(X)o(A)小于(B)大于(C)小于等于(D)大于等于2.联合炳H(X「X2,…，XJlog(III^I)o(B)大于(D)大于等于(B)为负(D)非负(B)Huffman编码；=i(A)小于(C)小于等于3.相对爛总是(A)为正(C)非正1.是最佳码。(A)Fano编码(C)Shannon编码(D)算术编码2.字母表为工={0,1},情况下的Shannon编码码长为B。(A)L(x)二To严(B)L(x)二-1卩严_(0L(x)k-logj

6、编码码长为o(A)L(x)FlogT+l(B)L(x)=-logp(x)+l(C)L(x)^-logpj)+1(D)L(x[=-logp

7、P图像能包含的最大信息量为03、香农编码屮，概率为PG)的信源符号Xi对应的码字G的长度心应满足不等式o「0.250.50.25_3、设有一个信道，其信道矩阵为0.250.250.5,贝陀是信_0.50.250.25_道(填对称，准对称)，其信道容量是比特/信道符号。31948年，美国数学家香农发表了题为“通信的数学理论”的t篇论文，从而创立了信息论。4必然事件的自信息是_0。6离散平稳无记忆信源X的N次扩展信源的爛等于离散信源X的爛的』倍o7对丁•离散无记忆信源,当信源爛冇最大值时，满足条件为信源符号等概分布。8若一离散无记忆信源的信源爛H(X)等于2.5,对信源进

8、行等长的无失真二进制编码，则编码长度至少为。9对于香农编码、费诺编码和霍夫曼编码，编码方法惟一的是香农编罠O10已知某线性分组码的最小汉明距离为3,那么这组码最多能检测出个码元错误，最多能纠正_个码元错误。11设有一离散无记忆平稳信道，其信道容量为C,只要待传送的信息传输率R_小丁一C(大于、小于或者等于)，则存在一种编码，当输入序列长度n足够大，使译码错误概率任意小。12平均错误概率不仅与信道本身的统计特性有关，还与译码规则和编码方法有关13必然事件的自信息量是,不可能事件的自信息量是。14一信源有五种符号{a,b,c,d,c},先验概率分别为Pa=0.5,Pb=O

9、.25,Pc二0.125,Pd二Pe二0.0625。符号“a”的自信息量为bit,此信源的嫡为bit/符号。15如某线性分组码的最小汉明距dmin二6,最多能纠正——个随机错。16平均互信息量T(X;Y)与信源爛和条件爛之间的关系是。17克劳夫特不等式是唯一可译码的充要条件。{00,01,10,11}是否是唯一可译码？O18.在Shannon信息论屮，最重要的概念是信息爛19.通信系统一般出信源一编码器一信道一译码器一信宿5个部分组成。1•字母表为刀={0,1},且取值空间x={a,b,c,d,c}下的概率分布为P(a)=0.2,P(b)=0.5,P