信息论基础7答案

《信息论基础7答案》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、《信息论基础》参考答案一、填空题(共15分，每空1分)1、信源编码的主要口的是提高有效性,信道编码的主要口的是提高可靠性。2、信源的剩余度主要来白两个方面，一是信源符乃间的相关性,二是信源符乃的统计不均匀性°3、三进制信源的最小嫡为®最大嫡为lo叮bit/符吳4、无失真信源编码的平均码长最小理论极限制为信源爛(或H(S)/log一H,S))°5、当R二C或(信道剩余度为0)吋,信源•信道达到匹配。6、根据信道特性是否随时间变化，信道可以分为协参信道和随参信道。7、根据是否允许失真，信源编码可分为无失真信

2、源编码和限失真信源编码。8、若连续信源输出倍号的平均功率为则输出信号幅度的概率密度是高斯分布或-正态分布或11f(x)=^-e用霍夫曼编码法编成二进制变长码；(6分)计算平均码长Z;(4分)计算编码信息率(2分)计算编码后信息传输率/?；(2分)计算编码效率〃o(2分)-时，信源具有最大爛，英值为值才log2兀心。9、在下面空格中选择填入数学符号或“〈”(1)当X和Y相互独立时,H(XY)=H(X)+H(X/Y)zH(Y)+H(X)o(2)比(心=I?兰弘(X)=I‘丿(3)假设信道输入用X表示，信道输

3、出用Y表示。在无噪有损信道中，H(X/Y)>0,H(Y/X)=0,I(X;Y)

4、o*.z:55ou^6LoiS]=00s2=01S3=10054=101S5=11056=ihz=工加=0.4X2+0.6X3二2.6码%••号1=1/?r=Llogr=2.6bj^号R==等二°973b%^元其中，H(S)=H(0.2,0.2,0.2,0.2,0.1,0.1)=2.53号（2）（3）（4）（5）,LlogrL评分：其他正确的编码方案：1,要求为即时码2,平均码长最短四、（10分）某信源输出A、B、C、D、E五种符号，每一个符号独立出现，出现概率分别为1/8、1/8、1/8、1/2、1/

5、8。如果符号的码元宽度为0.5如。计算：（1）信息传输速率尺。（5分）（2）将这些数据通过一个带宽为02000kHz的加性白高斯噪声信道传输，噪声的单边功率谱密度为n^=^W/Hz。试计算正确传输这些数据最少需要的发送功率P。（5分）解：H(X)=_glog§x4_yogQ=*log8+*log231=—log2+—log2=2log2=2bitR=^-=4xl06/?p50.5//54x106=2x106+10'6x2x106>P（2）1+-=222P=6W五、（16分）一个一阶马尔可夫信源，转移概率

6、为21P（S1IS1）=-,P（S2IS1）=-,P（SIIS2）=l,P（S2IS2）=0o画出状态转移图。（4分）计算稳态概率。（4分）计算马尔可夫信源的极限爛。（4分）计算稳态下耳，比及其对应的剩余度。（4分）解：（1）S匸522（2）由公式P（SJ=》P（S」SJP（SJJ=122P(SX£P(SJSjP(SjpP(Sj+P(S2)x=l》21P(S2)=：£p(S2ISJP(SJnP(SJP(SJ+P(S2)=1P（SJ冷P（SJ冷（3）该马尔可夫信源的极限爛为:22H八-y》P(SjP(S」

7、SjlogF(S」SjJ=lJ=1_2x2x2_3xlx1433433=-x0.578+-xl.59924=0.681M/符号=0.472naz/符号=0.205hart/符号(4)在稳态下:2(3=-》P(xJlogPd)=-7XZ=1410g7+4xl0%J=0.811^7/符号H2=Hf=0.205hart/符号=0.472〃〃/符号=0.68lb”/符号对应的剩余度为7=1=1-^log+

8、log(2丿2j2丿z0.8110.189H。=0.319六.设冇扰信道的传输情况分别如图所示。试求这种

9、信道的信道容量。解：信道传输矩阵如下0010PYX=2]_j_220-2可以看出这是一个对称信道，L=4,那么信道容量为（1）C=log4-H-,-,0,0'LL）LiogL+工〃（儿a）logp（y」xj=log4+2x

10、log

11、=lbit七、（16分）设X、Y是两个相互独立的二元随机变量，其取0或1的概率相等。定义另一个二元随机变量Z=XY（一般乘积）。试计算（1）H（X）,H（Z）;（2）H（XY）,H（XZ）;⑶H（XIY）,H