资源描述：
《信息论基础与编码复习2》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。
1、信息论基础与编码复习、x2>P[0.50.5、已知信源接到信道p(rix)=P.98、0.20.02、上,0.8求在该信道上传输的平均互信息量/(XV)、疑义度H(XIY),噪声嫡H(YIX)和联合爛H(XY)。参考答案：不要求计算结果，只要与出公式，每份5分，共20分P(Y)=P(X)P(YX)22H(YIX)二工工pay)log2P(yjl^)i=lj=l22H(X1y)n》》"Cw)10g2“aIy})22h(xy)二■工工〃a)】)io2〃孰必)I(X-Y)=H(X)+H(Y)-H(XY)二、一维随机变量X在区间s,b］内均匀分布，试求此
2、连续信源的爛Hc(x)o参考答案：He(X)=-£p(x)log2p{x)dx=^-^og2(b-a)dx=og2(b-a)(bit)(10分)1"“)2三、—•维随机变量X的取值是(-00,4-00),其概率密度函数为p(x)=2卅(高斯a/2^cf2信道)，试求此连续信源的爛He(x)O参考答案：EX=「xp{x)dx=“DX=匚(兀一“尸p(x)dx=a2(5分)Hr(X)=-£^p(x)log2p(x)t/jlog2(2^cr2)(bit)(10分)(丄0丄、2V2请绘制状态转移图，并五、一个三状态马尔可夫信源的转移概率矩阵为ii0土2
3、+丿求该马尔可夫信源的稳态分布。(10分)参考答案：1、绘制状态转移图(5分)2、稳态分布P(®)=*,p(52)=y,P(53)=y(5分)六、试求以下列信道矩阵代表的信道容量。兀2[P]=X3H力儿100100100100010001参考答案：归并信道，C=max/（X；y）=maxH（r）=log,3P（x）bit/sign(10分)XP(X)接收符号Y={0,l,2,3},其其失真矩0111阵为D=1011,试求D,1101max1110七、设一四元对称信源Dmin及信息率失真函数R（D）o（15分）参考答案：Dminmind(x;.,y}
4、)=0(5分)/=1jDmaX=minD;=7&分)JD,R(Q)=ln〃+乎In吕+(l_pln(l_p=2+Dlnf+(l-£>)ln(l-D)(5分)x八、设有一单符号离散信源：P(X)0.5X2兀30.20.2,试求其信源爛.二进制哈（15分）夫曼编码（最优编码），并计算平均码长。参考答案：画出最优二元树（5分）编码卩©花订（5分）010110111]平均码长：^=0.5*1+0.2*2+0・2*3+0.1*3=1.8(5分)九.设有一单符号离散信源:P(X)“兀2心0.20.190.18尢兀5兀6兀70.170.150.10.01求其信源
5、爛、二进制香农编码，并计算平均码长。（15分）参考答案：求信源爛（5分）按概率从人到小的排序，计算概率和编码州花兀3兀4兀5兀6心&分）00000101110010111101111110平均码长：K=(0.2+0.19+0.18+0.17+0.15)*3+0.1*4+0.01*7=3.14(5分）十、设％,勺分别代表某工厂合格站和废站，设该厂产站的合格率"（4）=99%，废品率p@2）=l%，若合格品出厂、废品报废，则不会造成损失；若将一个合格品报废，则损失1元；若将一个废站出厂，则损失100元。现检测系统把合格品误判为废品、废品误判为合格品的概
6、率均为10%,试计算这种检测系统的信息价值率。（15分）参考答案:P(X)=(a}a20.990.01），0.9P(xiyi)=p(xi)p(yix.)D=(1000)20=工〃(不)〃(*)!)/=1Dg=min£).=min{l,0.99}=0.99元，(10分)JJJP=0.199元，•.几ax—万=0791元,R(D)=min/(X;K)p(yjlxf)Gp(D)/(X；y)=-±±心y)Iog2=工立心y)log?西普=铝肯pg铝肯p(xj0.025(bitIsign)所以信息价值率为:^max-DR(D)=31.6元/比特。（15分）
7、卜一、设某地区的“晴天”概率p（e）=5/6,“雨天”概率〃@2）=1/6,把“晴天”预报为“雨天”、把“雨天”预报为“晴天”造成的损失均为a元。乂设该预报系统把“晴天”预报为“雨天”、把“雨天”预报为“晴天”的概率均为0.1,把“睛天”预报为“睛天”、把“FIJ天”预报为“FIJ天”的概率均为0.9。试计算这种预报系统的信息价值v（元比特）（15分）参考答案：由题意有：P(YIX)='0.90.1、、0.90.1丿/、兀1X2P(x)=51P(xiyi)=p(xi)p(8、>0（5分）?;=1£>]=/心i)d(x,,X)+/心2)〃(兀2，X)=fo$=pgd(兀i,y2)+p(x2)rf(
