最新-第5章-无失真信源编码资料ppt课件.ppt

《最新-第5章-无失真信源编码资料ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、2011-第5章-无失真信源编码资料2/100一、概述二、定长码三、变长码四、哈夫曼编码主要内容本章主要介绍无失真信源编码定理与一些重要的无失真信源编码方法五、几种实用的信源编码方法3/100信源编码：将信源符号序列按一定的数学规律映射成由码符号组成的码序列的过程。信源译码：根据码序列恢复信源序列的过程。无失真信源编码：即信源符号可以通过编码序列无差错地恢复。（适用于离散信源的编码）限失真信源编码：信源符号不能通过编码序列无差错地恢复。（可以把差错限制在某一个限度内）7/100信源译码器分组码单符号译码器译码器信源序列码符号集码字集合8/100摩尔斯信源

2、编码器信源编码器（1）信源符号{英文字母}码符号集点、划、字母间隔、单词间隔信道基本符号{0，1}简单信源编码器信源编码器（2）二进信道将英文字母变成摩尔斯电码将摩尔斯电码变成二进码9/100原信源的N次扩展码将N个信源符号编成一个码字。相当于对原信源的N次扩展源的信源符号进行编码。例信源X={0,1}的二次扩展源X2的符号集为：{00,01,10,11}。对X2编码，即为原信源X的二次扩展码。10/100§5.1.2信源编码的分类概率匹配编码：信源符号的概率已知。通用编码：信源符号的概率未知。分组码：先分组再编码。在分组码中，每一个码字仅与当前输入的信

3、源符号组有关，与其他信源符号无关。包括：定长码、变长码（Huffman编码、费诺编码）非分组码：码序列中的符号与信源序列中的符号无确定的对应关系。例如算术编码。11/100信源编码分组码非分组码按信源序列和编码器输出的关系先分组再编码定长码变长码每一个码字仅与当前输入的信源符号组有关编码器信源序列编码序列例如算术编码就是非分组码无确定的对应关系12/100§5.1.3分组码与非分组码的显著区别：分组码中包含码字各码字都不相同？YN非奇异码奇异码唯一可译不同的消息序列不会生成相同的码序列无失真编码必要条件必要条件13/100即时码与非即时码只要接收到每个码

4、字的最后一个符号可立即将该码字译出？Y即时码N非即时码优点：译码延迟小14/100异前置码设为长度为的码字，即，称为的前置。一个码中无任何码字是其他码字的前置异前置码是唯一可译码异前置码与即时码是等价的逗号码用一个特定的码符号表示所有码字的结尾逗号码是唯一可译码15/100例设信源符号集为{a,b,c,d},采用6种分组编码如下表，分析每一个码的唯一可译性5.1符号码A码B码C码D码E码Fa0000010b0101100101c11010110001011d10111111100010111非奇异唯一可译10bac等长异前置码逗号码0表示开头即时码16/

5、100一些结论变长码定长码只要非奇异，就唯一可译非奇异且异前置就唯一可译速率变化设置缓冲器速率恒定不需缓冲器受误码影响大,逗号码除外码长已知容易同步容易产生差错传播无差错传播17/100码树码树是表示信源编码码字的重要工具之一叶子根节点18/100例一个码C包含4个码字：{1,01,000,001},试用码树来表示5.2采用二进制码树解：R100011（1）（01）（001）（000）19/100一些结论非奇异码字总能与码树建立一一对应的关系在码树中，n阶节点的个数最多为例：2进码树中，n阶节点数目最多为20/100§5.2定长码本节主要内容一、无

6、失真编码条件二、信源序列分组定理三、定长码信源编码定理21/100§5.2.1无失真编码条件对于定长码,只要非奇异就唯一可译。这就要求码字的数目不少于被编码的信源序列的个数设信源X包含q个符号，码符号集包含的符号数为r单信源符号编码：码长N长信源符号序列编码（N次扩展码）平均每个信源符号所需码符号数22/100例英文字母26个加1个空格可看成共27个符号的信源。如对单符号进行编码：但是，如果采用适当的信源编码，理论上每信源符号所需二进码符号数可以远小于上面的值，在理想情况下可以压缩到接近信源的熵1.4左右。本节就是从理论上证明这种压缩是可以实现的。23/

7、100§5.2.2信源序列分组定理定理5.2.1离散无记忆信源{使得{①②所有序列出现概率之和小于序列出现的概率满足：(5.2.3)24/100证：我们先证明（5.2.3）式。设信源符号集为，各符号出现的概率分别为，为长度为的序列，为中符号出现的次数。将信源序列按下列原则分成两：、，其中，：（5.2.4）：其它}根据大数定律，当序列足够长时，信源符号出现的次数接近。因此，中的序列的符号出现的次数符合大数定律，称典型序列。25/100从（5.2.4）中可以看出，随的不同而改变。设，则对于中的信源符号，有或，其中由于信源是无记忆的，所以的概率为＝，的自信息负

8、值为：26/100所以选择，使得（5.2.5）则式（5.2.3）成立。27/10