信息论测试题及答案.doc

《信息论测试题及答案.doc》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、一、设X、Y是两个相互统计独立的二元随机变量，其取-1或1的概率相等。定义另一个二元随机变量Z，取Z=YX（一般乘积）。试计算：1.H（Y）、H（Z）；2.H（YZ）；3.I（X;Y）、I（Y;Z）；二、如图所示为一个三状态马尔科夫信源的转移概率矩阵1.绘制状态转移图；2.求该马尔科夫信源的稳态分布；3.求极限熵；三、在干扰离散对称信道上传输符号1和0，已知P（0）=1/4,P(1)=3/4,试求：1.信道转移概率矩阵P2.信道疑义度3.信道容量以及其输入概率分布四、某信道的转移矩阵，求信道容量，最佳输入概率分布。五、求下列各离散信道的容量（

2、其条件概率P(Y/X)如下：）六、求以下各信道矩阵代表的信道的容量答案一、设X、Y是两个相互统计独立的二元随机变量，其取-1或1的概率相等。定义另一个二元随机变量Z，取Z=YX（一般乘积）。试计算：1.H（Y）、H（Z）；2.H（XY）、H（YZ）；3.I（X;Y）、I（Y;Z）；解：1.=1bit/符号Z=YX而且X和Y相互独立==故H(Z)==1bit/符号2.从上式可以看出:Y与X的联合概率分布为:P(Y,Z)Y=1Y=-1Z=10.250.25Z=-10.250.25H(YZ)=H(X)+H(Y)=1+1=2bit/符号3.X与Y相互

3、独立，故H(X

4、Y)=H(X)=1bit/符号I（X;Y）=H(X)-H(X

5、Y)=1-1=0bit/符号I(Y;Z)=H(Y)-H(Y

6、Z)=H(Y)-[H(YZ)-H(Z)]=0bit/符号二、如图所示为一个三状态马尔科夫信源的转移概率矩阵1.绘制状态转移图；2.求该马尔科夫信源的稳态分布；3.求极限熵；解：1.状态转移图如右图2.由公式,可得其三个状态的稳态概率为：3.其极限熵:三、在干扰离散对称信道上传输符号1和0，已知P（0）=1/4,P(1)=3/4,试求：1.信道转移概率矩阵P2.信道疑义度3.信道容量以及其输入概率分布010.

7、90.10.10.901解：1.该转移概率矩阵为P=2.根据P（XY）=P（Y

8、X）P（X），可得联合概率P（XY）YYX=09/401/40X=13/4027/40P(Y=i)12/4028/40由P（X

9、Y）=P(X

10、Y)/P(Y)可得P(X

11、Y)Y=0Y=1X=03/41/28X=11/427/28H(X

12、Y)=-3.该信道是对称信道，其容量为：C=logs-H=log2-H（0.9,0.1）=1-0.469=0.531bit/符号这时，输入符号服从等概率分布，即四、某信道的转移矩阵，求信道容量，最佳输入概率分布。解：该信道是准对称信道

13、，分解为两个互不相交的子信道矩阵这里C=logr-H(P的行矢量)-=0.174bit/符号这时，输入端符号服从等概率分布，即=五、求下列各离散信道的容量（其条件概率P(Y/X)如下：）六、求以下各信道矩阵代表的信道的容量