离散信源无失真编码

离散信源无失真编码

ID:46474129

大小:610.00 KB

页数:44页

时间:2019-11-24

离散信源无失真编码_第1页
离散信源无失真编码_第2页
离散信源无失真编码_第3页
离散信源无失真编码_第4页
离散信源无失真编码_第5页
资源描述:

《离散信源无失真编码》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库

1、第三章离散信源无失真编码1第三章离散信源无失真编码内容提要:用尽可能少的符号来传输信源消息,目的是提高传输效率,这是信源编码应考虑的问题,这章讨论在不允许失真情况下的信源编码。等长编码定理给出了等长编码条件下,其码长的下限值,变长编码定理(香农第一定理)给出了信源无失真变长编码时其平均码长的上、下限值。本章还介绍了三种通用信源编码方法:香农编码法、费诺编码法和霍夫曼编码法。2本章重点:1.唯一可译码的基本概念;2.Shannon编码、Fano编码、Huffman编码的方法;3.平均码长和编码效率的计算。33.1绪论为了实现高质量、高效率的通信,引入了信源编码

2、和信道编码。信源编码和信道编码主要需要解决以下两个问题。提高传输效率增强通信的可靠性4(1)提高传输效率,用尽可能少的信道传输符号来传递信源消息,目的是提高传输效率,这是信源编码主要应考虑的问题。这里又分两种情况讨论,即允许接收信号有一定的失真或不允许失真。综上所述,提高抗干扰能力往往是以牺牲信息传输效率为代价的,而为了提高传输效率又往往削弱了其抗干扰能力。这样,设计者在取舍之间就要作均衡考虑。(2)增强通信的可靠性如何增加信号的抗干扰能力,提高传输的可靠性,这是信道编码主要考虑的问题。解决这一问题,一般是采用冗余编码法,赋予信码自身一定的纠错和检错能力,只

3、要采取适当的信道编码和译码措施,就可使信道传输的差错概率降到允许的范围之内。5信源编码包括两个功能:(1)将信源符号变换成适合信道传输的符号;(2)压缩信源冗余度,提高传输效率。6{a1,a2,…,aK}为信源符号集,序列中每一个符号uil都取自信源符号集。{b1,b2,…,bD}是适合信道传输的D个符号,用作信源编码器的编码符号。编码输出码字ci=ci1ci2…cin,cik∈{b1,b2,…,bD}k=1,2,…,n,n表示码字长度,简称码长。信源符号{a1,a2,…,aK}信道符号(码符号){b1,b2,…,bD}图3-1信源编码器模型信源信源编码器一

4、般来说,信源编码可归纳为如图3-1所示的模型。消息ui=ui1ui2…uiL码字ci=ci1ci2…cin7信源编码可看成是从信源符号集到码符号集的一种映射,即将信源符号集中的每个元素(可以是单符号,也可以是符号序列)映射成一个长度为n的码字。对于同一个信源,编码方法是多种的。【例3.3】用{u1,u2,u3,u4}表示信源的四个消息,码符号集为{0,1},表3-1列出了该信源的几种不同编码。表3-1同一信源的几种不同编码信源消息各消息概率码1码2码3码4u1q(u1)000001u2q(u2)1101110u3q(u3)101000100u4q(u4)11

5、111110003.1.1码的分类83.变长码若码字集合C中的所有码字cm(m=1,2,…,M),其码长不都相同,称码C为变长码,表3-1中列出的码3、码4就是变长码。2.等长码在一组码字集合C中的所有码字cm(m=1,2,…,M),其码长都相同,则称这组码C为等长码,表3-1中列出的码1、码2就码长n=2等长码。一般,可以将码简单的分成如下几类:1.二元码若码符号集为{0,1},则码字就是二元序列,称为二元码,二元码通过二进制信道传输,这是数字通信和计算机通信中最常见的一种码,表3-1列出的4种码都是二元码。95.非奇异码从信源消息到码字的映射是一一对应的

6、,每一个不同的信源消息都用不同的码字对其编码,例表3-1中的码2、码3和码4都是非奇异码。4.奇异码对奇异码来说,从信源消息到码字的映射不是一一对应的。例表3-1中的码1,信源消息u2和u4都用码字11对其编码,因此这种码就是奇异码,奇异码不具备惟一可译性。10扩展信源信源编码器信源符号{a1,a2,…,aK}信道符号(码符号){b1,b2,…,bD}消息u1…uN=(u11u12…u1L)…(uN1uN2…uNL)N次扩展码字c1…cN=(c11c12…c1n)…(cN1cN2…cNn)图3-2N次扩展信源编码器模型原码的N次扩展码是将信源作N次扩展得到的

7、新信源符号序列u(N)=u1…uN=(u11u12…u1L)…(uN1uN2…uNL),对应码符号序列c(N)=c1…cN=(c11c12…c1n)…(cN1cN2…cNn),记集合C(N)={c1(N),c2(N),…},C(N)即原码C的N次扩展码。6.原码C的N次扩展码原码C的N次扩展码中的每个元素是N次扩展信源中的序列所对应的N个码字组成的序列。11对于定长码,若原码是惟一可译码,则它的N次扩展码也是惟一可译的,而对于变长码则不尽然,见表3-2。信源消息各消息概率码1码2码3u1q(u1)011u2q(u2)11001u3q(u3)00100001u

8、4q(u4)1110000001表3-2同一信源的几

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。