信息论与编码考试题

《信息论与编码考试题》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、1、按发出符号之间的关系来分，信源可以分为（）和（）2、连续信源的熵是（），不再具有熵的物理含义。3、对于有记忆离散序列信源，需引入（）描述信源发出的符号序列内各个符号之间的统计关联特性3、连续信源X,平均功率被限定为P时，符合（）分布才具有最大熵，最大熵是（）。4、数据处理过程中信息具有（）。5、信源冗余度产生的原因包括（）和（）。6、单符号连续信道的信道容量取决于（）。7、香农信息极限的含义是（）。8、对于无失真信源编码，平均码长越小，说明压缩效率（）。9、对于限失真信源编码，保证D的前提下，尽量减少（）。10、立即码指的是（）。11、算术编码是（）分组

2、码。12、游程编码是（）失真信源编码。13、线性分组码的（）就是该码空间的对偶空间的生成矩阵。14、若（n，k）线性分组码为MDC码，那么它的最小码距为（）。15、完备码的特点是（）。16、卷积码的自由距离决定了其（）。（）1、信息是指各个事物运动的状态及状态变化的方式。（）2、信息就是信息，既不是物质也不是能量。（）3、马尔可夫信源是离散无记忆信源。（）4、不可约的马尔可夫链一定是遍历的。（）5、单符号连续信源的绝对熵为无穷大。（）6、序列信源的极限熵是这样定义的：H(X)=H(XL

3、X1,X2,…,XL-1)。（）7、平均互信息量I(X;Y)是接收端所获

4、取的关于发送端信源X的信息量。（）8、信源X,经过处理后，输出为Y，H(Y)小于H(X),说明信息不增。（）9、如果一个消息包含的符号比表达这个消息所需要的符号多，那么该消息存在冗余度。（）10、有噪无损离散信道的输入为X,输出为Y，那么其信道容量Ｃ＝ｍａｘＨ（Ｙ）。（）11、非高斯噪声信道的信道容量比高斯噪声信道的信道容量小。（）12、信息率失真函数具有单调递减性。（）13、异前缀码不能及时可译。（）14、用码树构造的一定是及时码。（）15、香农编码压缩了符号相关造成的冗余。（）16、有失真信源编码指的是保真度准则下的信源编码。（）17、变长无失真信源编码

5、比定长编码的编码效率高。（）18、香农编码是最佳编码。（）19、卷积、交织都可以达到差错随机化的目的。。（）20、卷积码的序列距离决定了其检错和纠错能力。l信息、消息、信号的定义是什么？三者的关系是什么？l什么样的马尔可夫链是遍历的？l简述离散信源的最大熵定理。l简述信息率失真函数的物理意义。l叙述变长信源编码定理。l惟一可译码存在的充要条件是什么？l什么是差错图样？有哪些差错图样类型？l什么是本原多项式？l对于信道编码，有哪两种译码算法？简述之。l为什么说BSC信道的最小距离译码就是最大似然译码？l什么是完备吗？举出两种完备吗的例子。l写出卷积码的解析表达

6、式。说明为什么称之为卷积码？l设在一只布袋中装有100个大小相同的乒乓球，（1）若红色球和白色球各50个，从中随机取出一个球，问猜测其颜色需要的信息量是多少？（2）若红色球99个，白色球1个，从中随机取出一个球，猜测其颜色需要的信息量又是多少？Ø某信道为强对称信道（即均匀信道）输入符号和输出符号的个数均为m，正确的传输概率为1—ε,错误概率为ε被对称的均匀分给m—1个输出符号，试写出转移概率矩阵及其信道容量的表达式。Ø一个平均功率受限的连续信道，其通频带为1MHZ,信道上存在白色高斯噪声。（1）已知信道上的信号和噪声的平均功率比值为10，求该信道的信道容量。

7、（2）信道上的信号和噪声的平均功率比值降为5，要达到相同的信道容量，信道的通频带应为多大？（3）若信道通频带减少为0.5MHZ,信道上的信号和噪声的平均功率比值应为多大？（4）。。。。Ø设有离散无记忆信源P(X)={0.37,0.25,0.18,0.10,0.07,0.03},（1）、求该信源的符号熵。（2）、用哈夫曼编码编成二元变长码，计算其编码效率。（3）、要求其译码错误小于10采用定长二元码要达到（2）中的哈夫曼编码效率，问需要多少个信源符号连在一起编？最小距离与检错和纠错能力之间满足如下关系：1)设码组能检错个数为e，则有2)设码组能纠错个数为t，则

8、有3)若码组能检错个数为e，又能纠错t个，则有对任何纠错编码都适用。对于分组码（n,k），编码效率定义为信息位在码字中所占的比重，按下式计算：