信息理论与编码试卷b

《信息理论与编码试卷b》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、年级专业班级姓名学号考试时间年月日午订装线2011——2012学年第一学期课程名称：信息理论与编码考试形式：（闭卷）考核方式：（考试）题号一二三四五六七八总分得分评阅人签名一、判断题(每空1分，共10分)1．有记忆信源输出符号之间是统计相关的。（）2．条件熵不大于无条件熵。（）3．离散信源的序列熵等于各个符号熵之和。（）4．互信息量可为正值、负值或零（）5．平均互信息I(X;Y)是输入信源概率分布的下凸函数。（）6．当信源的符号数一定时，符号间的记忆长度越长，极值熵越小，从而就越大，这说明冗余度越大，意味着信源可压缩的程度越大。（）考场座号试

2、卷类型□B卷卷得分命题教师签名：吴燕系主任签名：日期1．试题可采用粘贴方式，请用B5纸打印，粘贴时不要超过边框。2．本科课程的试题一般不留答题空间，答案写在专用答题纸上，专科课程试题一般要留答题空间，答案直接做在试卷上。第6页共6页试卷名称：08电子本信息理论与编码试卷B7．在限失真信源编码中，容许的失真度D越大，所要求的信息率R就越小。（）8．某信道输入端的熵为，输出端的熵为，该信道为无噪有损信道，其容量为。（）9．克拉夫特不等式可以判别唯一可译码的存在性，也可以用克拉夫特不等式来判别某码组是否为唯一可译码。（）10．若要求纠正1个差错，同

3、时检测2个差错，则要求最小码距dmin=4。（）得分二填空题(每空1分，共10分)1．加密编码主要用于解决信息传输中的_________(有效性、可靠性、安全性)。2．一信源有五种符号，先验概率分别为，，，，则符号“a”的自信息量为bit，此信源的熵为bit/符号。3．对称DMC信道的输入符号数为n，输出符号数为m，信道转移概率矩阵为pij，则该信道的容量为。4．采用m进制编码的码字长度为Ki，码字个数为n，则克劳夫特不等式为，它是判断的充要条件。5．信源编码的概率匹配原则是：概率大的信源符号用，概率小的信源符号用。（短码或长码）6．某离散无

4、记忆信源X，其符号个数为n，则当信源符号呈分布情况下，信源熵取最大值。第6页共6页试卷名称：08电子本信息理论与编码试卷B订装线得分三、计算题（本题共4小题；第1小题10分，第2小题14分，第3小题14分，第4小题10分，共48分）1．从大量统计资料知道，男性中红绿色盲的发病率为7%，女性发病率为0.5%，如果你问一位男士：“你是否是色盲？”他的回答可能是“是”，可能是“否”，问这两个回答中各含多少信息量，平均每个回答中含有多少信息量？如果问一位女士，则答案中含有的平均自信息量是多少？（其中，，，）2．已知二元信道的传递矩阵为，其中。试求：（

5、1）H(X)，H(X/Y)，H(Y/X)和I(X；Y)；（8分）（2）求该信道的信道容量及其达到信道容量时的输入概率分布。（6分）（其中，，，）第6页共6页试卷名称：08电子本信息理论与编码试卷B3．有一个二元对称信道，其信道矩阵为。设该信源以1500bit/s的速度传输输入符号。现有一消息序列共有14000个二元符号，并设P(0)=P(1)=1/2，问从消息传输的角度来考虑，多少秒钟内能将这消息序列无失真的传递完？（其中，）4．一个四元对称信源，接收符号Y={0,1,2,3}，其失真矩阵为，求这信源的、。第6页共6页试卷名称：08电子本信息

6、理论与编码试卷B订装线得分四、证明题（本题共2小题，每小题4分，共8分）1．证明：平均互信息量同信息熵之间满足：I(X;Y)=H(X)+H(Y)-H(XY)2．证明：有两个随机变量X和Y，其和为Z=X+Y（一般加法），若X和Y相互独立，求证：H(Y)≤H(Z)第6页共6页试卷名称：08电子本信息理论与编码试卷B得分五、综合题（共24分）1．设有一单符号离散无记忆信源X，其概率分布为：P（X）={0.2，0.19，0.18，0.17，0.15，0.1，0.01}，求：（1）编二进制香农码，并计算其平均码长；（8）（2）用费诺编码编成二元变长码，

7、并计算其平均码长；（8分）（3）用哈夫曼编码编成二元变长码，，并计算其平均码长；（8）第6页共6页试卷名称：08电子本信息理论与编码试卷B