资源描述：
《信息论基础08-cnew》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、2008年《信息论基础》试题(C)2007-06-28姓名＿＿＿＿班级＿＿＿＿学号＿＿＿＿成绩＿＿＿一、填空题（每空2.5分,共45分）1．设有8行8列棋型方格，如果有两个球A和B分别以等可能落入任一方格内(两球不能落在同一格中),则A落入任何一格的自信息量是＿＿＿＿;平均自信息量是＿＿＿＿;若己知A巳落入某一格,则B再落入另一格的自信息量是＿＿＿＿。2.设有一二元信源X,不论以前发出过什么符号它在任意时间均以P(0)=0,4,P(1)=0.6的概率发出信号,X1,X2,X3为信号序列,则H(X3)=＿＿＿＿＿;H(X3
2、X2X1)=＿＿＿＿＿。3.巳知两个信道Q1和Q
3、2,它们的信道矩阵分别为:如果这两个信道串联,则总信道的信道矩阵是＿＿＿＿＿＿＿;若这两个信道并联,则总信道的信道容量是＿＿＿＿＿。4.巳知有一个连续信源X为发出恒定宽度,但不同幅度的脉冲;幅度值x处在a1和a2之间,此信源连至某信道,信道接收端接收脉冲幅度处在b1和b2之间,巳知随机变量X和Y的联合概率密度为:则微分熵h(X)=＿＿＿＿＿＿＿;h(XY)=＿＿＿＿＿＿＿＿平均互信息量I(X;Y)=＿＿＿＿＿。5.设输入符号为{0,1,2},输出符号为{0,1,2},离散无记忆对称信道的信道矩阵矩阵为:此信道的信道容量为＿＿＿＿＿＿。6.一四元对称信道,接收符号Y={0
4、,1,2,3,},其失真矩阵为汉明失真,则Dmax=＿＿＿＿;信息率失真函数R(D)=＿＿＿＿＿＿＿7．设某线形分组码的生成矩阵为则该码是_________型的系统线形分组码；该码的Hamming距离为________可以检测出________位错误；纠正_________位错误；如果接收码为Y=001001,则应译为_______一、计算题(小数保留三位)1.设随机变量X={x1,x2}={0,1}和Y={y1,y2}={0,1}的联合概率为:定义一个随机变量Z=X+Y(mod2)(1)计算熵H(X),H(XZ)及H(XYZ);(2)计算条件熵H(X
5、Z),H(Z
6、X
7、)及H(X
8、YZ);(3)计算互信息量I(X;Z),I(X;Y
9、Z)及I(X;Z
10、Y)(18%)2.设信源试用Huffman码编成二元变长码,并计算其编码效率。(10%)3.(15%)（1）叙说Kraft不等式及其意义；（2）写出Fano不等式并说明它的意义；三.证明题(12%)1.设X,Y.Z是三个概率空间,证明:(1)H(X,Y
11、Z)=H(X
12、Z)+H(Y
13、XY)(2)H(XY)≤H(X)+H(Y)
