信息论与编码课后作业

ID:41956534

大小:131.90 KB

页数:6页

时间:2019-09-05

信息论与编码课后作业_第1页
信息论与编码课后作业_第2页
信息论与编码课后作业_第3页
信息论与编码课后作业_第4页
信息论与编码课后作业_第5页
资源描述:

《信息论与编码课后作业》由会员上传分享,免费在线阅读,更多相关内容在工程资料-天天文库

1、弟二早3.8证明长为N的D元不等长码至多有D(Dn-1)/(D-1)个码字。证:已知长为N的不等长码D元可得此不等长为D进制,最大长为N所以例:N二2,【)二2{0,1}推岀{0,1,00,01,10,11}可知码字数量n=D+D2+DN即为等比数列求和:产(1"_。(1-沪)_。空-1)1-DD-13.12信源符号消息X={xbx2,-xM},信源爛H(X),若对该信源能找到一个平均码长为n=II(X)/log3的三元即时码,证明对每个x£X,其概率满足p(x.)=3-ns式中m为整数。证:由题意已知:信源嫡H(x)和平均码长,三元即时码设每个信源符号信息Xi,x2,X3---XM,对应的概

2、率qi,q2,q:bqMH(x)=-qilogq-q2logq2-q3logq3--—qMlogqM平均码长:n二qi+2*q2+2*q3+3*q.i+…又因为n=H(x)/log3nlog3=(qi+2*q2+2*q:3+3*q.i+…)log3二Tog(1/3)*(qi+2*q2+2*q3+3*q.i+・・・)H(x)=-logq2*Q3Q3e)因为II(x)=nlog3所以]ql+2*q2+2*q3+3*q4+…-log(9/1*$2血*93如*§4$4・・・)二_log_3得到:qi=l/3,q2=(l/3)2,q3=(l/3)2,q4=(l/3)3---qM=(l/3)ni概率满足P

3、(Xi)=3~nf(niGZ)3.16某一信源有M个消息,并且每个消息等概分布,对该信源进行二元霍夫曼编码,问当M二2,和M二2,+1(i为正整数)时,每个码字的长度N等于多少?平均码长F乂为多少?答:当M二2,时,得到等长码,码长为i;当M二2"1时,平均码长为—21-1n_2f+l*i+船*(i+l)=i+22^+13-17信源分布[他)卜[1,31/31/41/12/(1)对该信源进行二元霍夫曼编码;(2)证明存在两个不同的最佳码长集合,即证明码长集合{1,2,3,4}和{2,2,2,2}都是最佳的。答:所以霍夫曼编码为:11;10;01;00几吃加"尬卩(%)二1*1/3+2*1/3+

4、3*1/4+3*1/12二2久2=2*1/3+2*1/3+2*1/4+2*1/12二2所以两种都是最佳的。3.18对信源r无无2尤3兀4咒5尤6兀7兀8]严、+kwJ~ll/51/61/61/101/101/101/121/12#攻订(1)香农编码,D=2;(2)费诺编码,D二2;(3)霍夫曼编码,D=3;(4)霍夫曼编码,D二4;并分别求出平均码长F和编码效率1

5、。答:(1)对于X8,由Tog(x8)二3.66可得码长为4;则累加概率为p尸二1/5+1/6*2+1/10*3+1/12*2二0.92将0.92换成二进制并保留前四位得1110.同理可得香农编码得:000;001;011;1000

6、;1010;1011;1101;1110;信源嫡:H(X)=-Q(xm)/o

7、=2.93/2.96=0.99(3)D二3,M二8,D*=M[mod(D-l)]

8、=0D*G(2,3・・・D)D*二2,即第一次取两个,第二次取三个编码结果为:0,21,20,12,11,10,221,220平均码长为:K=l*0・2+2*0.17*2+2*0.1*2+2*0・08*3二1.96编码效率:r

9、二2.93/1.96*1.59二0.937(4)D=4,M=8,D*二M[mod(D-l)]二2D*G(2,3・・・D)D*二4,即第一次取4个,以后每次取4个编码结果:2,0,33,32,31,30,11,10平均码长:&1*0・2+1*0.17+2*0.17+2*0.1*3+2*0・08*2二1.63编码效率:r

10、二2.93/1.63*2二0.893.21离散无记忆

11、信源-X'q(X)一无2兀5兀6咒7尢9X10二.0.160.140.130.120.100.090.080.070.060.05.(1)求二元霍夫曼编码,计算平均码长匸和编码效率T

12、。(2)求三元霍夫曼编码,计算平均码长斤和编码效率1]答:(1)D二2,M二10,D*二M[mod(D-1)]二0D*W(2,3・・・D)D*二2,即第一次取2个,以后每次取2个编码结果:111,101,100,01

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
正文描述:

《信息论与编码课后作业》由会员上传分享,免费在线阅读,更多相关内容在工程资料-天天文库

1、弟二早3.8证明长为N的D元不等长码至多有D(Dn-1)/(D-1)个码字。证:已知长为N的不等长码D元可得此不等长为D进制,最大长为N所以例:N二2,【)二2{0,1}推岀{0,1,00,01,10,11}可知码字数量n=D+D2+DN即为等比数列求和:产(1"_。(1-沪)_。空-1)1-DD-13.12信源符号消息X={xbx2,-xM},信源爛H(X),若对该信源能找到一个平均码长为n=II(X)/log3的三元即时码,证明对每个x£X,其概率满足p(x.)=3-ns式中m为整数。证:由题意已知:信源嫡H(x)和平均码长,三元即时码设每个信源符号信息Xi,x2,X3---XM,对应的概

2、率qi,q2,q:bqMH(x)=-qilogq-q2logq2-q3logq3--—qMlogqM平均码长:n二qi+2*q2+2*q3+3*q.i+…又因为n=H(x)/log3nlog3=(qi+2*q2+2*q:3+3*q.i+…)log3二Tog(1/3)*(qi+2*q2+2*q3+3*q.i+・・・)H(x)=-logq2*Q3Q3e)因为II(x)=nlog3所以]ql+2*q2+2*q3+3*q4+…-log(9/1*$2血*93如*§4$4・・・)二_log_3得到:qi=l/3,q2=(l/3)2,q3=(l/3)2,q4=(l/3)3---qM=(l/3)ni概率满足P

3、(Xi)=3~nf(niGZ)3.16某一信源有M个消息,并且每个消息等概分布,对该信源进行二元霍夫曼编码,问当M二2,和M二2,+1(i为正整数)时,每个码字的长度N等于多少?平均码长F乂为多少?答:当M二2,时,得到等长码,码长为i;当M二2"1时,平均码长为—21-1n_2f+l*i+船*(i+l)=i+22^+13-17信源分布[他)卜[1,31/31/41/12/(1)对该信源进行二元霍夫曼编码;(2)证明存在两个不同的最佳码长集合,即证明码长集合{1,2,3,4}和{2,2,2,2}都是最佳的。答:所以霍夫曼编码为:11;10;01;00几吃加"尬卩(%)二1*1/3+2*1/3+

4、3*1/4+3*1/12二2久2=2*1/3+2*1/3+2*1/4+2*1/12二2所以两种都是最佳的。3.18对信源r无无2尤3兀4咒5尤6兀7兀8]严、+kwJ~ll/51/61/61/101/101/101/121/12#攻订(1)香农编码,D=2;(2)费诺编码,D二2;(3)霍夫曼编码,D=3;(4)霍夫曼编码,D二4;并分别求出平均码长F和编码效率1

5、。答:(1)对于X8,由Tog(x8)二3.66可得码长为4;则累加概率为p尸二1/5+1/6*2+1/10*3+1/12*2二0.92将0.92换成二进制并保留前四位得1110.同理可得香农编码得:000;001;011;1000

6、;1010;1011;1101;1110;信源嫡:H(X)=-Q(xm)/o

7、=2.93/2.96=0.99(3)D二3,M二8,D*=M[mod(D-l)]

8、=0D*G(2,3・・・D)D*二2,即第一次取两个,第二次取三个编码结果为:0,21,20,12,11,10,221,220平均码长为:K=l*0・2+2*0.17*2+2*0.1*2+2*0・08*3二1.96编码效率:r

9、二2.93/1.96*1.59二0.937(4)D=4,M=8,D*二M[mod(D-l)]二2D*G(2,3・・・D)D*二4,即第一次取4个,以后每次取4个编码结果:2,0,33,32,31,30,11,10平均码长:&1*0・2+1*0.17+2*0.17+2*0.1*3+2*0・08*2二1.63编码效率:r

10、二2.93/1.63*2二0.893.21离散无记忆

11、信源-X'q(X)一无2兀5兀6咒7尢9X10二.0.160.140.130.120.100.090.080.070.060.05.(1)求二元霍夫曼编码,计算平均码长匸和编码效率T

12、。(2)求三元霍夫曼编码,计算平均码长斤和编码效率1]答:(1)D二2,M二10,D*二M[mod(D-1)]二0D*W(2,3・・・D)D*二2,即第一次取2个,以后每次取2个编码结果:111,101,100,01

显示全部收起
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。
关闭