资源描述：
《课堂练习答案》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。
1、—、填空题1、1948年，美国数学家查扎发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。2、信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为无记忆信道。信源的消息通过信道传输后的误差或失真越大道传输消息所需的信息率也越小。3、单符号的失真度或失真函数d(x,Yj)表示信源发出一个符号Xi,信宿再现门所引起的误差或失真。4、对于香农编码、费诺编码和哈夫曼编码，编码方法惟一的是隽农编码。5、对于二元序列0011100000011111001111000001111111,其相应的游程序列是23652457。6、信道编
2、码的最终目的是提高信号传输的可靠性。7、离散平稳无记忆信源X的N次扩展信源的爛等于离散信源X的爛的M倍。8、对于离散无记忆信道和信源的N次扩展，其信道容量C"二NC9、信道编码论定理是一个理想编码存在性理论，即：信道无失真传递信息的条件是信息传输速率小于信道容量。10、若纠错码的最小距离为d丽，则可以纠错任意小于等于如F个差错。二、判断题1、必然事件和不可能事件的自信息量都是0。错2、单符号离散信源的自信息和信源嫡都具有非负性。对3、单符号离散信源的联合自信息量和条件自信息量都是非负的和单调递减的。对4、自信息量、条件自信息量和互信
3、息量之间有如下关系：I(xt;yj)=I(x；)-I(xi/yj)=I(yj)-I(/)对5、当随即变量X和Y相互独立时，条件爛等于信源爛。对6、(错)ni阶马尔可夫信源和消息长度为m的有记忆信源，其所含符号的依赖关系相同。7、(对)利用状态极限概率和状态一步转移概率来求m阶马尔可夫信源的极限嫡。8、(对)连续信源和离散信源的平均互信息都具有非负性。9、(对)定长编码的效率一般小于不定长编码的效率。三、设离散无记忆信源「X=「al二0a2=la3=2a4=3^P(x)1/41/41/41/4其发生的消息另(20212333加201
4、230213330312032101315求(1)此消息的自信息是多少？(10分)(2)此消息中平均每个符号携带的信息量是多少？(3分)解：I(al=0)二-logP(al)=-logl/4=2比特I(a2=l)=-logP(a2)=-logl/4=2比特I(a3=2)二TogP(a3)二Togl/4二2比特I@4二3)二-logP(a4)二Togl/4二2比特此消息中共有6个“0”,8个T,9个“2”,10个“3”，则得到消息的自信息量是I=6I(al=0)+81(a2=l)+9I(a3=2)+101(a4=3)=6X2+8X2+
5、9X2+10X2=66比特(2)12=1/33=66/33=2比特/符号SP®■■四、信源空间为S1S2与*4S5S6S?*80.40.20.10.10.050.050.050.05试分别构造二元和三元哈夫曼码，计算其平均码长和编码效率。答：1)二元码的码字依序为：10,11,010,011,1010,1011,1000,1001o平均码长—2.6歸符号,编码效率72=0-972)三元码的码字依序为：1,00,02,20,21,22,010,011。平均码长厶Tf符号,编码效率巧=0936五、一阶马尔可夫信源状态如下图所示，信源符号
6、集为{0,1,2},求(1)平稳后的信源概率分布(2)信源嫡(3)当P=1时信源的嫡，并说明它的意义。0厂rp1-PJ丿y<丿Q(0)1-P0pQ(l)二P1-P0Q(0)Q(l)Q(2)0P1-PK：Q(0)+Q(l)+Q(2)=l则有:Q(0)=Q(l)=Q(2)=l/3即平稳后：P(0)=P(l)=P(2)=l/3(2)(0)H(X/0)+P(l)H(X/1)+P(2)H(X/2)=1/3H(1-P,0,P)+1/3H(P,1-P,0)+l/3H(0,P,1-P)=-(l-P)log(l-P)-PlogP比特/符号(3)p二1
7、时，不确定度为0,说明信道进行保真传送。六、设输入符号与输出符号为X二Y{0,1,2,3},且输入符号的分布为P(X=i)=l/4,1=0,1,2,3,(0111、A—1011a—1101设失真矩阵为：J110>求Dmax和Dmin及R(Dmax)和R(Dmin),及相应的转移矩阵概率.解:<01111011d=1101J110>信源爛为H(x)=Log(4)=2根据最大平均失真度的定义有:Dmax=minSP(u)d(u,v)二min{-}R(Dmax)二0而最:小平均失真度Dmin=SP(ujmind(th,vj=0R(Dmin
8、)二R(0)=H(X)=log(4)=2p(yl),p(y2),p(y3),p(y4)只要满足p(y1)+p(y2)+p(y3)+p(y4)=l在[0,1]区间可以任意取值。七、设分组码(n,k)中，n=6,n=3,并按下列方程选取字
