编码理论 第二版 教学课件 作者 田丽华 第6-11章第9章.ppt

《编码理论 第二版 教学课件 作者 田丽华 第6-11章第9章.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第9章　限失真信源编码9.1离散信源信息率失真理论9.2连续信源信息率失真理论9.3量化编码9.4预测编码9.5变换编码9.1离散信源信息率失真理论9.1.1失真函数及保真度准则由于只涉及信源编码问题。所以可以将信道编码和译码看成是信道的一部分。这样接收者收到消息后所产生的失真（或误差）只是由信源编码带来的。从直观感觉可知，若允许失真越大，信息传输率可越小;若允许失真越小，信息传输率需越大。所以信息传输率与信源编码所引起的失真（或误差）是有关的。为了定量地描述信息传输率和失真的关系，可以略去广义的无扰信道，所谓广义无扰信道是指，把信道编码、信

2、道、信道译码这三部分看成一个没有任何干扰的广义信道。这样通信系统可简化成如图9-1所示。图9-1简化的通信系统1．基本离散信源失真设离散无记忆信源：信源符号通过信道传输到接收端，则接收端的接收量为对应于一对（u,v），定义一个非负函数：d(ui,vj)≥0，(i＝1，2，…，n；j＝1，2，…，m)(9-1)由于信源U有n个符号，而接收V有m个符号，所以d(ui,vj)就有n×m个，这n×m个非负的函数可以排成矩阵形式，即（9-2）称它为失真矩阵，它是n×m阶矩阵。失真函数有多种形式，应尽可能符合信宿的主观特性；也就是主观上的失真感觉应与d(

3、ui,vj)的值相对应。越大，所感觉到的失真也越大，而且最好成正比。当ui＝vj时，d应等于零，表示没有失真，当ui≠vj时，d为正值。设x为信源输出信息，y为信宿收到信息，则常用失真函数有：　　均方失真：d(x,y)＝(x－y)2绝对失真：d(x,y)＝

4、x－y

5、相对失真：d(x,y)＝

6、x－y

7、/

8、x

9、汉明失真：均方失真和绝对失真只与(x－y)有关，而不是分别与x及y有关，在数学处理上比较方便；相对失真与主观特性比较匹配，因为主观感觉往往与客观量对数成正比，但在数学处理中就要困难得多。其实选择一个合适的失真函数，要完全与主观特性匹配已是

10、非常困难的，更不用说还要易于数学处理。前三种失真函数适用于连续信源，最后一种失真函数适用于离散信源，汉明失真函数表示当接收符号与发出信道符号相同时，就不存在失真和错误，所以失真度为零。当接收到符号与发送符号不同时，就存在失真。而且认为只要发送符号与接收符号不同所引起的失真都相同，失真度为常数，这里常数值为1（称为汉明失真）。[例9-1]二元对称信源，信源U＝{0，1}，接收变量V＝{0,1}在汉明失真定义下，失真函数为：d(0,0)＝d(1,1)＝0d(0,1)＝d(1,0)＝1它表示当信源发送符号0（或符号1）而接收到的符号仍是0（或符号1

11、）时，则认为无失真或无错误存在。反之，若发送信源符号0（或符号1）而信宿接收符号1（或符号0）时，则认为有错误，并且这两种错误后果是等同的。失真矩阵为[例9-2]设信源U＝{0,1},接收变量V＝{0,1,2}定义失真函数为：d(0,0)＝d(1,1)＝0,d(0,1)＝d(1,0)＝1,d(0,2)＝d(1,2)＝0.5则失真矩阵：【例9－3】信源U＝{0,1,2},接收变量V＝{0,1,2},均方失真函数为d(ui,vj)＝(ui－vj)2,求失真矩阵。解由失真定义得失真矩阵为因为信源U和信宿接收量V都是随机变量，所以单个符号失真度d(u

12、i,vj)也是随机变量。那么，现在定义传输一个符号引起的平均失真，即信源平均失真为（9-3）式中ui—信源输出符号，i＝1，2，…，n；p(ui)—信源符号ui对应概率；vj—信宿接收符号；j＝1,2,…，m；p(vj

13、ui)—广义无扰信道传递概率。　　单个符号的失真度d(ui,vj)描述了某个信源符号通过传输后失真的大小，对于不同的信源符号和不同的接收符号，其值是不同的。但平均失真度已对信源和信道进行了统计平均，所以此值是描述某一信源在某一广义无扰信道（或称为试验信道）传输下的失真大小，是从总体上描述整个系统的失真情况。[例9-4]等概信

14、源，通过信道转移概率矩阵P的信道传输，失真测度为均方失真测度，求平均失真。信道转移概率矩阵为０１２解:2.N次扩展信源失真从基本离散信源失真度出发，可以定义N次无记忆扩展信源的失真函数和平均失真度。扩展信源失真度（失真函数）：（9-4）式中：S——信源的一个输出序列，Y—信宿的一个接收序列，式（9－4）表明，扩展信源的失真度等于序列中对应单个信源符号失真度之和，单个符号失真度为d(S,Y)/N。　　由此可得N次扩展信源平均失真度为（9-5）则单个信源符号平均失真度：（9-6）当信源与信道都是无记忆时，N次扩展信源平均失真度：（9-7）式中：

15、—扩展信源中第l个分量平均失真度。此时单个信源符号平均失真度：（9-8）若平均失真度不大于所允许的失真D，即：（9－9）称式（9-9）为保真度准则。N次扩展信源的保