信息论考试试卷anew

《信息论考试试卷anew》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、1、选择题(共10分，每题2分)（1）离散信源熵表示信源输出一个消息所给出的（）。A、实际信息量；B、统计平均信息量；C、最大信息量；D、最小信息量；（2）无条件熵H(X)必（）条件熵H(X/Y)。A、大于；B、小于；C、不大于；D、不小于；（3）对于离散信源，获得最大熵的条件是信源概率分布为（）。A、高斯分布；B、等概分布；C、三角分布；D、非均匀分布；（4）对某一信源，下列编码中哪个是惟一可译码（）消息概率编码A编码B编码C编码DA11/2000000A21/40011010100A31/16010110

2、1100101A41/1601011101101110A51/1610010111110111A61/1610111011111011（5）设某二进制码｛00011，10110，01101，11000，10010，10001｝，则码的最小距离是（）。A、0；B、1；C、2；D、3；2、（本题10分）一个消息由符号0，1，2，3组成，已知p(0)=3/8,p(1)=1/8,p(2)=1/4,p(3)=1/4。求此消息的剩余度为多少？试求由无记忆信源产生的60个符号构成的所有消息所含的平均信息量（bit/消息）。

3、3、（本题12分）某一离散平稳信源，并设发出的符号只与前一个符号有关，即可用条件概率P(uj/ui)给出它们的关联程度如下表所示：uiuj01209/112/11011/83/41/8202/97/9求此平稳信源的极限熵及信源效率。4、（12分）设信源X的符号集为{0，1，2}，其概率分布为，3，每信源符号通过信道传输，输出为Y，信道转移概率如图所示：求（1）H(Y)（6分）；（2）H(XY)（2分）；（3）I(X;Y)（4分）。                  5、（共20分）某离散无记忆信源符号集为，所

4、对应的概率分别为：0.4，0.2，0.1，0.1，0.07，0.05，0.05，0.02，0.01，码符号集为{0，1，2，3}。1）     求信源的熵H(X)及信源剩余度；（3+3＝6分）2）     对其进行四元Huffman编码；（5分）3）     求平均码长，编码效率及编码器输出的信息传输速率R。（9分） 6、(共12分)设有一离散信道，其信道矩阵如下：3求：当信源X的概率分布为时，1)       写出用最大后验译码的译码规则，并计算.(3+3=6分)2)       写出用最大似然译码的译码规

5、则，并计算.(3+3=6分)7、（12分）分析以下两个信道的对称性，并求信道容量：，。8、（12分）某个（7，4）线性分组码的生成矩阵为，设接收码是，请译出发码的估值。3