资源描述：
《信息论与编码第5章-3》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、信源编码第5章5.1编码的定义5.2无失真信源编码5.3限失真信源编码5.4常用信源编码方法简介内容25.3限失真信源编码定理3限失真信源编码定理在本章一开始我们就分析了在很多实际信源中,特别在模拟的连续信源中,无失真要求是完全没有必要的,而且也是达不到的。在实际中限失真信源是具有现实意义的4限失真信源编码定理限失真信源编码定理：设离散无记忆信源X的信息率失真函数为R(D),当信息率R＞R(D)时,只要信源序列长度L足够长,一定存在一种编码方法,其译码失真小于或等于D+ε,ε为任意小的正数；反之,若R＜R(D),
2、则无论采用什么样的编码方法,其译码失真必大于D。如是二元信源,则对于任意小的ε＞0,每一个信源符号的平均码长满足如下公式：55.4常用信源编码方法6常用信源编码香农编码、费诺编码、哈夫曼编码主要是针对无记忆信源。当信源有记忆时上述编码效率不高；游程编码对相关信源编码更有效；香农编码、费诺编码、哈夫曼编码属于无失真信源编码；游程编码属于限失真信源编码。7游程编码游程：数字序列中连续出现相同符号的一段。二元序列的游程：只有“0”和“1”两种符号。连“0”这一段称为“0”游程,它的长度称为游程长度L(0)；连“1”这一
3、段称为“1”游程,它的游程长度用L(1)表示。8游程编码二元独立序列游程长度概率若规定二元序列总是从“0”开始,第一个游程是“0”游程,则第二个游程必为“1”游程,第三个又是“0”游程……。对于随机序列,游程长度是随机的其取值可为1,2,3,…，直至无穷。游程长度序列/游程序列：用交替出现的“0”游程和“1”游程长度表示任意二元序列。游程变换：是一种一一对应的变换,也是可逆变换。例如：二元序列000101110010001…可变换成如下游程序列311321319游程变换减弱了原序列符号间的相关性。游程变换将二元序
4、列变换成了多元序列；这样就适合于用其他方法,如哈夫曼编码,进一步压缩信源,提高通信效率。编码方法：首先测定“0”游程长度和“1”游程长度的概率分布,即以游程长度为元素,构造一个新的信源；对新的信源(游程序列)进行哈夫曼编码。游程编码10传真编码文件传真的基本特性文字传真:黑、白两个灰度级图像传真:有比较丰富的灰度的图片、图像数字式文件传真把一页文件分为n×m个像素Xij表示第i行(i=l,2…n)第j列(j=l,2…m)的像素由于文件传真是二值电平的,即只有两个灰度值,Xij0(白色)1(黑色)11传真编码直接编
5、码：每一个像素用一位二进码(0或1)代表一页文件的码元数就等于该页二值图像的像素数X3=11110010001100011111分辨率：单位长度(lmm)包含的像素数。分辨率愈高,文件细节愈清晰,文件质量也就愈高。但是表示一页文件的比特数就愈多。12例如一页A4文件,分辨率为5点/mm。直接编码时需传送：210×297×52=1.5Mbit用2400bit/s的数码率传送约需11分钟如果希望达到CCITT的第3类文件传真机的标准,即用市话网作信道,1分钟内传输一页A4文件,那么我们就需要找到一种编码方法,把数码压
6、缩到原来的1/11。某一种编码的压缩比为：13CCITT建议使用两种分辨率：⑴1728像素/行(8样点/mm),3.85行/mm(4行/mm)⑵1728像素/行(8样点/mm),7.7行/mm(8行/mm)根据汉字的特点,对传真用的七种试用样张进行了统计,测得下列平均值：p(白)=pW=93.3％p(黑)=pB=6.7％测试结果表明：50%LW小于18个像素80%LW小于61个像素50%LB小于4个像素80%LB小于6个像素LW白游程长度LB黑游程长度14游程编码有了上述游程的概率分布,对不同的游程长度,按其不同
7、的发生概率,可以分配不同的码字,这种编码方式称为游程编码。游程编码既可以将白、黑游程分别按其概率进行分别编码,也可以将白长与黑长混起来统一编码。15黑、白分开编码时白游程熵：其中LW为白游程长度,p(LW)为对应的白游程概率,L为游程最大长度,对文件传真L=1728，白游程平均编码长度应满足:令为白游程长的平均像素数P84:5-2-9每像数的编码比特数平均每像素的熵值16黑游程熵：黑游程平均编码长应满足经过黑、白平均可得每个像素的熵值每个像素的编码比特数17黑、白游程分别最佳编码后,由每个像素的熵hWB即可得到最
8、小比特率。极限压缩比游程编码18对中文A4文件七种样张的平均值：分辨率8×8分辨率8×4pW=0.93260.933;pB=0.06740.0670LW=85.9986.44像素(pel)LB=5.735.72像素(pel)HW=5.895.87b/runHB=3.143.14b/runhWB=0.10030.0997b/pelK0=9.9710.03对中文A4文件,7种
