第5章信源编码ppt课件.ppt

《第5章信源编码ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第5章信源编码5.1编码的定义5.2无失真信源编码5.3限失真信源编码定理5.4常用信源编码方法简介编码通信的实质是传输信息，通信系统的性能指标主要有有效性、可靠性、安全性等，这些指标正是信息论研究的对象。编码的目的是为了优化通信系统，就是使这些指标达到最佳。按不同的编码目的，编码分为三类：信源编码信道编码安全编码/密码信源编码信源编码是以提高通信的有效性为目的编码。通常通过压缩信源的冗余度来实现。采用的一般方法是压缩每个信源符号的平均比特数或信源的码率。同样多的信息用较少的码率来传送，使单位时间内传送的平均信息量增加，从而提高通信的有效性。在不失真或允许失真的条件

2、下，用尽可能少的符号传送信源信息。信道编码：–是以提高信息传输的可靠性为目的的编码。–通常通过增加信源的冗余度来实现。采用的一般方法是增大码率/带宽。在信道受干扰的情况下增加信号的抗干扰能力，同时又使得信息传输率最大。密码：–是以提高通信系统的安全性为目的的编码。–通常通过加密和解密来实现。无失真编码无失真信源编码定理信源编码限失真编码限失真信源编码定理无失真(冗余度压缩编码)：仅对信源的冗余度进行压缩，不改变信源的熵。无失真编码是可逆的，即当信源符号变换成代码后，可从代码无失真地恢复出原信源符号。只适用于离散信源。限失真(熵压缩编码)：在失真受限的情况下进行限失真

3、编码。在连续信源的情况下，由于信源的信息量趋于无限，显然不能用离散符号序列来完成无失真编码，而只能进行限失真编码。离散信源无失真信源编码定理称为第一极限定理离散和连续信道信道编码定理称为第二极限定理限失真信源编码定理称为第三极限定理连续信源信源编码的主要任务符号变换：使信源输出符号与信道输入符号匹配。减少冗余，提高编码效率。针对信源输出符号序列的统计特性，寻找一定的方法把信源输出符号序列变换为最短的码字序列。信源编码的基本途径使序列中的各个符号尽可能地互相独立，即解除相关性，去冗余；使编码中各个符号出现的概率尽可能地相等，即概率均匀化。本章讨论离散信源编码。首先从无

4、失真编码定理出发，重点讨论以香农码、费诺码和霍夫曼码为代表的最佳无失真码。5.1编码的定义信源编码：信源输出符号经信源编码器编码后转换成另外的压缩符号无失真信源编码：可精确无失真地复制信源输出的消息编码器的作用将信源符号集X中的符号变换成由码符号集y中的码元组成的长度为Ki的一一对应的码字。码字集合叫做代码组Y；码字所含码元的个数称为该码字的码长，记为Ki。分组码将信源消息分成若干组，即符号序列，每个符号序列依照固定码表映射成一个码字，这样的码称为分组码，有时也叫块码。只有分组码才有对应的码表，而非分组码中则不存在码表。例：若将信源X通过二元信道传输，就必须把信源符

5、号ai变换成由0、1符号组成的码符号序列，这个过程就是信源编码。定长码固定长度的码，码中所有码字的长度都相同。变长码可变长度码，码中的码字长短不一。定长码变长码若0、01都是码字，译码时如何分离？分组码/块码将信源符号集中的每个符号映射成一个固定的码字。分组码必须具有某些属性，才能保证在接收端能够迅速可靠地译码。码的不同属性码表信源符号信源出现概率p(ai)符号ai码1码2码3码4a11/20011a21/411101001a31/80000100001a41/8110110000001奇异码奇异码和非奇异码1若信源符号和码字是一一对应的，则该码为非奇异码。反之为奇

6、异码。唯一可译码2任意有限长的码元序列，只能被唯一地分割成一个个码字。例：{0,10,11}是一种唯一可译码。任意一串有限长码序列，如100111000，只能被分割成10、0、11、10、0、0。任何其他分割法都会产生一些非定义的码字。奇异码不是唯一可译码非唯一可译码—码2，可译成a1a1或a3非奇异码唯一可译码—码3，但译码有延时非即时码唯一可译码即时码非即时码接收端收到一个完整的码字后，不能立即译码，还需等下一个码字开始接收后才能判断是否可以译码。码3即时码(非延长码)(异前缀码)在译码时无需参考后续的码符号就能立即作出判断，译成对应的信源符号。码4任意一个码字

7、都不是其它码字的前缀部分码1码2码3码4aia10011a211101001a30000100001a4110110000001即时码奇异码非唯一可译码非即时码用码树来构造码字码树从树根开始向下长出m个树枝，成为m进制码树，树枝代表码元，树枝与树枝的交点叫做节点。经过r个树枝才能到达的节点称为r阶节点。向下不长出树枝的节点称为终端节点或端点。m进制码树各节点(包括树根)向下长出的树枝不会超过m，若等于m称为满树(整树)，否则称为非满树(非整树)。码树上任一节点都对应一个码字，组成该码字的码元就是从树根开始到该节点所经过的树枝(码元)。若一个码所有码字均处于终端节