资源描述：
《信源编码定理_2011new》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、信源编码定理信源编码：将信源符号序列按一定的数学规律映射成由码符号组成的码序列的过程。信源译码：根据码序列恢复信源序列的过程。无失真信源编码：即信源符号可以通过编码序列无差错地恢复。（适用于离散信源的编码）限失真信源编码：信源符号不能通过编码序列无差错地恢复。（可以把差错限制在某一个限度内）信源编码的目的：提高传输有效性，即用尽可能短的码符号序列来代表信源符号。无失真信源编码定理证明，如果对信源序列进行编码，当序列长度足够长时，存在无失真编码使得传送每信源符号所需的比特数接近信源的熵。因此，采用有效的信源编码会使信息传输效率得到提高。概述一、信源编码器二、信源编码的分
2、类三、分组码信源编码器分组码单符号信源编码器符号集Aa编为cii{,,}aa1q编码器码字集合{cc,,}1q信源序列码符号集{}{bb,}1r信源译码器分组码单符号译码器码字集合{cc,,}1q信源序列{aa,,}1q译码器码符号集{,bb}1r简单信源编码器摩尔斯信源编码器将英文字母变成摩尔斯电码将摩尔斯电码变成二进码信源编码器信源编码器信源符号（1）（2）二进信道{{英文字母英文字母}}码符号集点、划、字母间隔、单词间隔信道基本符号{{00，，1}1}符号点划字母间隔单词间隔电平+-+++---------二进代码10111000000000摩尔斯信
3、源编码器信源编码的分类概率匹配编码：信源符号的概率已知。分组码：先分组再编码。在分组码中，每一个码字仅与当前输入的信源符号组有关，与其他信源符号无关。包括：定长码、变长码（Huffman编码、费诺编码）非分组码：码序列中的符号与信源序列中的符号无确定的对应关系。例如算术编码。通用编码：信源符号的概率未知。信源编码按信源序列和编码器输出的关系分组码非分组码先分组再编码无确定的对应关系定变信源序列编码序列长长编码器码码每一个码字仅与当前输入的信源符号组有关例如算术编码就是非分组码分组码与非分组码的显著区别：分分码组码中中含包含码字必要条件Y各码字唯一可译非奇异码都不相
4、同？N不同的消息序列不会生成相同的码序列奇异码无失真编码即时码与非即时码只要接收到每个码字的最后一个符非即码即时码号可立即将N该码字译出？Y即时码优点：译码延迟小异前置码设xk为长度为k的码字，即xkkxx1,,，称xxx(1jk)为x的前置。12jk一个码中无任何码字是其他码字的前置异前置码是唯一可译码异前置码与即时码是等价的逗号码用一个特定的码符号表示所有码字的结尾逗号码是唯一可译码例设信源符号集为设信源符号集为{{a,b,c,da,b,c,d},},采用采用66种分组种分组编码如下表，分析每一个码的唯一可译性符号码A码B码C码D码E码
5、Fa00000即时码10b0101100101c11010110001011d10111111100010111c10等长异前置码逗号码0表示开头ba非奇异唯一可译一些结论变长码定长码非奇异且异前置就唯一可译只要非奇异，就唯一可译速率变化设置缓冲器速率恒定不需缓冲器受误码影响大受误码影响大,,逗号码除外逗号码除外码长已知容易同步容易产生差错传播无差错传播码树码树是表示信源编码码字的重要工具之一根节点叶子例5.2一个码一个码CC包含包含44个码字：个码字：{1,01,000,001},{1,01,000,001},试用码树来表示解：采用二进制码树0（（000000
6、））001（（001001））R1（01）1（（11））一些结论n在码树中，在码树中，nn阶节点的个数最多为阶节点的个数最多为r例：例：22进码树中，进码树中，rr阶节点数目最多为阶节点数目最多为2r非奇异码字总能与码树建立一一对应的关系定长码本节主要内容一、无失真编码条件二、信源序列分组定理三、定长码信源编码定理无失真编码条件对于定长码对于定长码,,只要非奇异就唯一可译。这就要只要非奇异就唯一可译。这就要求码字的数目不少于被编码的信源序列的个数单信源符号编码：设信源设信源XX包含包含qq个符号，码符号集包含的符号数为个符号，码符号集包含的符号数为rrl码长qr
7、NN长信源符号序列编码（长信源符号序列编码（NN次扩展码）次扩展码）Nlllogq平均每个信qr或源符号所需Nlogr码符号数例英文字母英文字母2626个加个加11个空格可看成共个空格可看成共2727个符号的信个符号的信源。源。如对单符号进行编码：如对单符号进行编码：lll274755取l5272llog274.755，取l5但是，如果采用适当的信源编码，理论上每信源符号所需二进码符号数可以远小于上面的值，在理想情况下可以压缩到接近信源的熵1.41.4左右。本节就是从理论上证明这种压缩是可左右。本节就是从理论上证明这种压缩是可以实现
