资源描述：
《第四章-信道率失真函数后续习题课ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、4.1平均失真和信息率失真函数4.2离散信源和连续信源的R(D)计算信息率失真函数4.1.1失真函数4.1.2平均失真4.1.3信息率失真函数R(D)4.1.4信息率失真函数的性质4.1平均失真和信息率失真函数“消息完全无失真传送”的可实现性信道编码定理：无论何种信道，只要信息率R小于信道容量C，总能找到一种编码，使在信道上能以任意小的错误概率和任意接近于C的传输率来传送信息。反之，若R>C，则传输总要失真。4.1.1失真函数完全无失真传送不可实现：实际的信源常常是连续的，信息率无限大，要无失真传送要求信息率R为无
2、穷大；实际信道带宽是有限的，所以信道容量受限制。要想无失真传输，所需的信息率大大超过信道容量R>>C。4.1.1失真函数实际中允许一定程度的失真实际生活中，人们一般并不要求获得完全无失真的消息，通常只要求近似地再现原始消息，即允许一定的失真存在。例如打电话：即使语音信号有一些失真，接电话的人也能听懂。人耳接收信号的带宽和分辨率是有限的。放电影：理论上需要无穷多幅静态画面，由于人眼的“视觉暂留性”，实际上只要每秒放映24幅静态画面。随着科学技术的发展，数字系统应用得越来越广泛，这就需要传送、存储和处理大量的数据。为了
3、提高传输和处理效率，往往需要对数据压缩，这样也会带来一定的信息损失。4.1.1失真函数问题：在允许一定程度的失真条件下，信源信息能够压缩到何种程度？至少需要多少比特的信息率才能描述信源？香农信息率失真理论指出：在允许一定失真度D的情况下，信源输出的信息率可压缩到R(D)。R(D)是定义的信息率失真函数。为了描述失真度D，我们先来引入失真函数。4.1.1失真函数定义失真函数：信源编码器输入X∈{a1,a2,…,ai,…,an}输出Y∈{b1,b2,…,bj,…,bm}称d(xi,yj)为单个符号的失真函数。表示信源发
4、出一个符号xi，在接收端再现yj所引起的误差或失真。4.1.1失真函数失真矩阵失真度还可表示成矩阵的形式称d为失真矩阵。它是n×m阶矩阵。如例题：4－14.1.1失真函数信源符号X取自{0，1},编码器输出符号取自{0,1,2},规定失真函数为：d(0,0)=d(1,1)=0d(0,1)=d(1,0)=1，d(0,2)=d(1,2)=0.5,则失真矩阵为：失真函数是根据人们的实际需要和失真引起的损失、风险、主观感觉上的差别大小等因素人为规定的。4.1.1失真函数4.1.2平均失真平均失真定义d(xi,yj)只能表示
5、两个特定的具体符号xi和yj之间的失真。平均失真：平均失真为失真函数的数学期望，4.1.2平均失真平均失真的意义是在平均意义上，从总体上对整个系统失真情况的描述。它是信源统计特性p(xi)、信道统计特性p(yj/xi)和失真度d(xi,yj)的函数。当p(xi)，p(yj/xi)和d(xi,yj)给定后，平均失真度就不是一个随机变量了，而是一个确定的量。如果信源和失真度一定，就只是信道统计特性的函数。信道传递概率不同，平均失真度随之改变。保真度准则人们所允许的失真指的都是平均意义上的失真。保真度准则：规定平均失真度
6、不能超过某一限定的值D，即，则D就是允许失真的上界。该式称为保真度准则。4.1.2平均失真4.1.3信息率失真函数R(D)信源编码器输入X∈{x1,x2,…,xi,…,xn}输出Y∈{y1,y2,…,yj,…,ym}假想信道图4－2将信源编码器看作信道这样就可以用分析信道传输的方法来研究限失真信源编码问题。4.1.3信息率失真函数R(D)对于信息容量为C的信道传输信息传输率为R的信源时，如果R>C,就必须对信源压缩，使其压缩后信息传输率小于C，但同时要保证压缩所引入的失真不超过预先规定的限度D，所以信息压缩问题就是
7、对于给定的信源，在满足保真度准则下，使其R值尽可能小。R值就是所需要输出的有关信源X的信息量，对应到信道，即为接收端Y需要获得的有关X的信息量，亦是互信息I（X；Y）。这样就将选择信源编码方法的问题转化为选择假想信道的问题，符号转移概率p(yj/xi)对应信道转移概率。4.1.3信息率失真函数R(D)试验信道平均失真是信源统计特性p(xi)、信道统计特性p(yj/xi)和失真度d(xi,yj)的函数。当p(xi)和d(xi,yj)给定后，则可以求出满足保真度准则下的所有转移概率分布pij，构成一个信道集合PD，那么
8、PD称为D允许试验信道。4.1.3信息率失真函数R(D)信息率失真函数在信源和失真度给定以后，PD是满足保真度准则的试验信道集合，平均互信息I(X;Y)是信道传递概率p(yj/xi)的下凸函数，所以在PD中一定可以找到某个试验信道，使I(X;Y)达到最小，即这个最小值R(D)称为信息率失真函数，简称率失真函数。对无记忆离散信源，有：4.1.3信息率失真函数R
