信息071信息论试卷-b-answer

《信息071信息论试卷-b-answer》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、南京工程学院试题评分标准及参考答案共4页第1页2009/2010学年第1学期课程所属部门：通信工程学院课程名称：信息论与编码B使用班级：信息071制作人：张亚飞09年12月18日一、填空题（本题10空，每空2分，共20分）1、1/42bit/符号2bit2、323、信源信道加密4、325、存在二、判断题（对划“√”，错划“×”，本题5小题，每小题2分，共10分）1、×2、×3、√4、√5、√三、名词解释（本题2小题,每小题5分,共10分）1、极限熵当离散有记忆信源序列的长度趋于无限大时，序列的平均符号熵称为极限熵，又

2、称极限信息量。2、唯一可译码任意有限长的码元序列只能被唯一地分割成一个个的码字，则称此码为唯一可译码。四、计算题（本题3小题，共35分）1、解（1）H(X)=H(1/2,1/2)=1bit/符号（2分）（2）已知信源的概率分布和信道的转移概率矩阵，根据全概率公式，可得X和Y的联合共4页第2页南京工程学院评分标准及参考答案概率矩阵，所以，（2分）（3）根据X和Y之间的联合概率，可以求得输出Y的概率分布p(y0)=p(y1)=p(y2)=p(y3)=1/4H(Y)=2bit/符号H(X/Y)=H(X,Y)-H(Y)=0.

3、918bit/符号（2分）（4）H(Y/X)=H(X,Y)-H(X)=1.918bit/符号（2分）（5）I(X;Y)=H(X)-H(X/Y)=0.082bit/符号（2分）（6）因为此信道为对称DMC信道，所以C=log4-H(1/3,1/3,1/6,1/6)=0.082bit/符号（3分）（7）当信源分布为P(X)={1/2,1/2}时，信道传输的信息量能达到信道容量（2分）2、解（1）失真矩阵每一行至少有一个0，所以Dmin=0（2分）（2）失真矩阵每一列至多有一个0，所以R(Dmin)=H(X)=H(1/2,

4、1/2)=1bit/符号（2分）（3）Dmax==（2分）（4）R(Dmax)=0（2分）3、解（1）（4分）平均码长：（2分）编码效率：H(X)=2.23bit/符号（2分）（2）哈夫曼编码的结果不是唯一的。（2分）原因有二：（a）每次对信源缩减时，赋予信源最后两个概率最小的符号0和1，0和1的顺序是任意的，所以可以得到不同的哈夫曼码；（b）对信源进行缩减时，两个概率最小的符号合并后的概率与其他信源符号的概率相同时，这两者在缩减信源中进行概率排序，其位置放置次序是任意的，故会得到不同的哈夫曼码。（2分）五、综合题（

5、本题3小题,共25分）1、解系统化后的生成矩阵（2分）共4页第3页南京工程学院评分标准及参考答案共4页第4页南京工程学院评分标准及参考答案校验矩阵（2分）（2）校验矩阵H其任意3列之和都不为0，至少需要4列才能组合出0，所以H有3列线性无关，则最小码距dmin=3+1=4（2分）（3）根据C=mG得100对应的码字为1001110（2分）（4）伴随式=[0001]≠0，所以R不是码字。（2分）2、解（1）G0=[11]，G1=[01]，G2=[11]，G3=[01]（3分）（2）（3分）3、解（1）（2分）（2）设稳

6、态分布的概率矢量W=(W1,W2,W3)，根据WP=W和，求得WiW1=5/59，W2=9/59，W3=45/59（3分）（3）（4分）