信息论试卷b20100118new

《信息论试卷b20100118new》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、中国矿业大学2009～2010学年第1学期《信息论基础》试卷（B）卷考试时间：100分钟考试方式：闭卷学院班级姓名学号题　号一二三四五总分得　分阅卷人一、填空（每空3分36分）1、以3为底的信息单位称为tet，问2tet相当于多少bit?。2、互信息与熵之间的大小关系是；条件互信息与条件熵之间的大小关系是　　　　　　　。3、服从单位圆上的均匀分布的随机变量X，Y的联合微分熵为。4、二元（7,4）汉明码的校验矩阵是　　　　　　　　　　　　　　　　　　　。生成矩阵为　　　　　　　　　　　　　　　　　　

2、　　　　　　，最小汉明距离为。5、离散随机变量X的D进Elias码的平均码长满足不等式。6、如果随机变量X的分布律为则随机变量的数学期望为　　　　　　　　　。7、编码的后缀分解集中第2个是　　　　　　　　　　　。码长是否满足Kraft不等式？　　　　　，是否为即时码？。二（20分)设离散无记忆信源的字符空间中有分布律。（1）求3长消息中的信息量。（2）试计算信源的熵6　　　　　　　　　　　　　　　　　　　　　　　　　　　。（3）如果要对所有2长的消息进行编码，试求这些消息的二元仙农码；（4）求第三

3、小问中四个消息的二元Huffman编码。三、（15分）已知一阶齐次马氏信源的字符空间为，转移概率矩阵Q如下。（1）如果初始分布为，求以字符2结尾的所有二长消息的概率分布；（2）求平稳分布；（3）熵率；四、（15分）设二个信道级联连接，它们传输矩阵分别为（1）试画出信道图；（2）设，求信道容量及最大输入分布。五、（14分）已知二元(5,3)码的生成矩阵为（1）求所有3长消息的编码C；（2）这个码的最小汉明距离；（3）按最小汉明距离译码方法输出01010应当译成什么输入？6　　　　　　　　　　　　　　

4、　　　　　　　　　　　　　6　　　　　　　　　　　　　　　　　　　　　　　　　　　6　　　　　　　　　　　　　　　　　　　　　　　　　　　6　　　　　　　　　　　　　　　　　　　　　　　　　　　6