期末试卷_11122_信息论_A_答案

《期末试卷_11122_信息论_A_答案》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、天津大学试卷专用纸学院专业班年级学号姓名共4页第1页A卷2011～2012学年第二学期期末考试试卷5、平均功率受限的波形信源，通过带宽有限的AWGN信道，当带宽趋于无穷大时，信道容量趋于B。《信息论与编码》（A卷共4页）（A）无穷大（B）1.44S/N0bit/s（C）S/N0bit/s（考试时间：2012年6月19日）二、填空题（共22分，共7小题，共11空，每空2分）题号一二三四五六七成绩核分人签字NN得分1、某离散i.i.d.信源X熵为H，进行N次扩展，则扩展信源X的熵H(X)=NH；对扩展信N源X进行Huffman编码，则原信源X平均码长的上界为E[l]

2、+1/N。一、单项选择题（共12分，共5小题，共12空，每空1分）1、以下各组变长码中，C是非奇异码，但不是唯一可译码；A是唯一可2、离散i.i.d.信源X={x1,x2,x3,x4}有4个符号，则当其概率分布为均匀（或pi=1/4,i=1,2,3,4译码，但不是前缀码；D是前缀码。或等概率）分布时，信源熵H(X)取得最大值，最大熵为2比特/符号。x10x10x10x11x201x211x210x200⎛3/23/1⎞3、两状态一阶平稳Markov信源，转移概率矩阵为⎜⎜⎟⎟，则其稳定分布为[p(x1),x3011x311x3100x3010⎝3/13/2⎠x401

3、11x4100x4111x4011p(x2)]=[1/2,1/2]，其熵速率为H=0.9（或其它正确的近似结果）比特/符号。（注：（A）（B）（C）（D）log23=1.6）2、对离散i.i.d.信源X进行熵编码，以下方法中，A和B（或B和A）平均4、两个二元删除信道BEC(p)独立并行传输信息，其中p为删除概率，则总的信道容量为2(1-p)比特/符号，取得此信道容量时两输入信源满足条件均匀分布且独立。码长的上界为E[l]

4、1⎞5、离散i.i.d.信源X=⎜⎜⎟⎟，通过错误概率为p=0.25的二元对称信道BSC(p)进行（A）Huffman编码（B）Shannon-Fano码（C）Shannon-Fano-Elias码⎝.025.075⎠3、离散无记忆信源X经信道1传输后得到Y，Y又经信道2传输后得到Z，则比较以下各说明：此题的失真特殊，是二元比特数传输，在汉明失真度量下，其平均失真D=0.25。的差异，所以写bit作单位不扣分。量的大小关系有：疑义度H(X

5、Y)AH(X

6、Z)，互信息I(X;Y)BI(X;Z)，信道1的信道容量C1B信道1与信道2级联信道容量C1-2。6、某信源发出消

7、息的信息率为66kbits/s，希望通过信噪功率比为20dB的AWGN信道进（A）≤（B）≥行可靠传输，则信道带宽至少为10（或其它正确近似结果）kHz。（注：log25=2.3）224、时间离散连续信源X，通过无记忆平稳加性噪声信道，输出Y=X+Z，噪声Z的概率密7、方差σ=1的正态分布无记忆连续信源X~N(0,σ)，在平方误差失真度量下，率失⎧1⎧1度函数为pz(z)，则该信道的转移概率密度函数pY

8、X(y

9、x)=A或B。⎪−log2DD,≤1⎪−

10、)（D）pz(y)-pz(x)真函数R(D)=⎪⎩0,D>1或⎪⎩0,D≥1。变形但相等的结果不扣分。说明：B是不对的。一个随机变量X概率密度函数p(x)里面的x仅仅是一个实值参数，表示X在x附近取值的可能性。本题随机变量有关系Y=X+Z，但它们的概率密度函数的参数之间没有这样的关系。pY

11、X(y

12、x)是一个关于x和y的函数，需要与一个自变量为x和y的函数相等。但因为教材上有这样的式子，老师又没有强调，所以选B本次不扣分。天津大学试卷专用纸学院专业班年级学号姓名共4页第2页A卷三、画图简答题（共20分，共5小题，每小题4分）曲线形状……………………………………………

13、……..1分1、画出反映熵、联合熵、条件熵和互信息之间的相等和不等关系的韦恩（Venn）图，并范围[0,1]…………………………………………………..1分写出该图所能反映的各种相等和不等关系；坐标(0.5,1)…………………………………………………1分坐标轴标题p-H(p)………………………………………...1分⎛01⎞2、画出二元离散i.i.d.信源X=⎜⎜⎟⎟的熵H与概率p的关系曲线H(p)，标出特征⎝p1−p⎠点坐标；⎛α1−α⎞3、画出转移概率矩阵⎜⎜⎟⎟的2状态一阶平稳Markov信源的状态转移图，其中⎝1−ββ⎠p(s2

14、s1)=1-α。4条个线及概