第5章 信源编码.ppt

《第5章 信源编码.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、编码信息传输需要解决的两个问题：在不失真或允许一定失真的条件下，如何用尽可能少的信息率来传送信源信息？在信道受干扰的情况下，如何增加信号的抗干扰能力，同时又使得信息传输率最大？有效性和可靠性提高抗干扰能力（降低失真或错误概率）往往是以降低信息传输率为代价的；反之，要提高信息传输率常常又会使抗干扰能力减弱。信源编码信道编码7/21/20211编码信源编码：以提高通信系统的有效性为目的的编码信源符号之间存在分布不均匀和相关性，使得信源存在冗余度。主要任务：减少冗余，提高编码效率。即用较少的码率传送较多的信息，使单位时间内传送的平均信息量增加，从

2、而提高通信的有效性。针对信源输出符号序列的统计特性，寻找一定的方法把信源输出符号序列变换为最短的码字序列。解除相关性：使序列中的各个符号尽可能地互相独立概率均匀化：使编码中各个符号出现的概率尽可能地相等7/21/20212编码编码的分类信道编码：以提高信息传输的可靠性为目的的编码通常通过增加信源的冗余度来实现。采用的一般方法是增大码率/带宽。密码：以提高通信系统的安全性为目的的编码通常通过加密和解密来实现。从信息论的观点出发，“加密”可视为增熵的过程，“解密”可视为减熵的过程。第一极限定理第三极限定理第二极限定理7/21/20213编码无失

3、真编码定理可逆编码的基础。当信源符号转换成代码后，可从代码无失真地恢复原符号。适用于离散信源/数字信号编码。限失真编码定理对于连续信源，编成代码后就无法无失真地恢复原来的连续值，因为取值可以有无限多个。此时只能根据限失真编码定理进行限失真编码。适用于连续信源/模拟信号编码。7/21/20214第5章　信源编码5.1编码的定义5.2无失真信源编码5.3限失真信源编码定理5.4常用信源编码方法简介定长编码定理变长编码定理最佳变长编码游程编码、算术编码7/21/20215编码的定义编码器输入端为原始信源X=(X1X2…Xl…XL)，其符号集为A，

4、即Xl∈{a1,a2,…ai,…an}信道所能传输的符号集B={b1,b2,…bj,…bm}编码器的功能是用符号集B中的元素，将原始信源的符号序列Xi变换为相应的符号序列Yj=(Y1Y2…Yj…YKL)编码器L长序列KL长码字7/21/20216编码的定义设信源输出的符号序列长度为1，即信源符号集为X={x1,x2,…xi,…xn}，信源概率空间为二元信道是常用的一种信道，其基本符号集为{0,1}若将信源X通过一个二元信道传输，就必须把信源符号xi变换成由0,1符号组成的码符号序列，即编码。信源符号信源符号出现概率码表码1码2x1p(x1)

5、000x2p(x2)0101x3p(x3)10001x4p(x4)11111分组码：每个符号序列Xi依照固定的码表映射成一个符号序列Yj7/21/20217术语码字：码长：码元：码：编码：编码器L长序列KL长码字变换后的各个符号序列Yj码字Yj的长度（符号数）KL组成码字Yj的各位代码符号bj所有码字的集合全部Xi←→Yj的映射关系7/21/20218编码的定义定长码和变长码定长码：所有码字的长度都相同变长码：可变长度码，码中的码字长短不一信源符号信源符号出现概率码表码0码1码2码3码4x1p(x1)=1/2000011x2p(x2)=1/

6、40111101001x3p(x3)=1/8100000100001x4p(x4)=1/8111101100000017/21/20219编码的定义奇异码和非奇异码奇异码：一组码中有相同的码字。如码1非奇异码：信源符号和码字一一对应，所有码字都不相同。唯一可译码任意有限长的码元序列，只能被唯一地分割成一个个的码字，便称为唯一可译码。奇异码不是唯一可译码，而非奇异码中有非唯一可译码（如码2）和唯一可译码（如码3）。7/21/202110编码的定义非即时码和即时码非即时码：指接收端收到一个完整的码字后，不能立即译码，还需等下一个码字开始接收后才

7、能判断是否可以译码。如码3即时码：无须考虑后续的码符号，即可从码元序列中译出码字。如码4唯一可译码成为即时码的充分条件是：其中任何一个码字都不是其他码字的前缀。7/21/202111编码的定义码非分组码分组码奇异码非奇异码非唯一可译码唯一可译码非即时码即时码（非延长码）所有的码非奇异码唯一可译码即时码7/21/202112码树码树用来表示各码字的构成。A0100000000000011111111111树根—码字的起点分成r个树枝—码的进制数中间节点—生出树枝终端节点—码字110101200000111112222200217/21/202

8、113码树中间节点不安排码字，只在终端节点安排码字每个终端节点对应的码字由从根节点出发到终端节点走过的路径上所对应的符号组成当第i阶的节点作为终端节点，且分配码字，则码字的码长为