第四章 限失真信源编码.ppt

《第四章 限失真信源编码.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、连续信源的熵和互信息信息率失真理论标量量化编码矢量量化编码语音压缩编码图象压缩编码第四章     限失真信源编码第四章限失真信源编码限失真编码：信源编码经过译码后能保留应用要求的信息，允许信源有一定的失真。为什么要限失真编码1°连续信源的绝对熵为无限大，由于信道的带宽有限，受信道容量的限制。不可能实现完全无失真的信源信息的传输。(可能性)2°信道资源和技术经济因素的限制。(可实现性)3°实际应用不必要无失真地恢复信源消息,不必要完全无失真的信源信息的传输.(必要性)4°数字系统的应用,模拟量的采样,量化也会引入失真.语音信号传输语音（音频）信号的带宽：20～20000HZ实际应用

2、音频范围:电话质量:300～3.4KHZ电话公用网调幅广播质量:50～7KHZ有现场感的语音传输高保真音频信号:20～20KHZ高保真音响图像信号传输一路6MHz的普通电视信号数字化后，其数码率将高达167Mbps，对储存器容量要求很大，占有的带宽将达80MHz左右表4－1各种图像信号应用的码率应用种类象素数/行行数/帧码率bps压缩前压缩后HDTV192010801.18G20~25M普通电视720480167M4~8M会议电视35228836.5M1.5~2M电视电话1281125.2M56k一、连续消息的统计特性时间连续、取值连续2.描述:随机过程1.波形信源：例如：在一个

3、具体的时间点ti，{x(ti)}为一个取值连续的随机变量，可用有限维概率密度函数族描述：4.1连续信源的熵和互信息平稳随机过程：统计特性不随时间平移而变化的随机过程。★{x(t)}在时刻t=ti的集平均:{x(t)}在某一时刻ti变量x(ti)的统计平均一、波形信源的特性2.描述:★{x(ti)}的时间平均：{x(ti)}某一样本函数x’(t)的时间平均值遍历平稳过程：若一平稳随机过程{x(t)}的集平均以概率1等于其时间平均，则称{x(t)}为遍历的平稳过程。大部分实际信号可以近似看作遍历平稳过程二、连续信源的熵变量X的概率分布与概率密度函数的关系为：1、方法连续消息离散化N次

4、扩展信源时间离散化、幅度分割逼近量化理论采样定理对连续变量X的量化方法如下：将X的取值范围[a,b]作n等分，每份=(b-a)/np(x)ab0a+(i-1)Δa+iΔPixΔ二、连续信源的熵则X落在第i区间内的概率为：则连续信源X:此信源合理！二、连续信源的熵二、连续信源的熵2、相对熵三、平均互信息波形信道｛x(t)｝｛y(t)｝采样后:基本公式实际应用中,允许信号有一定的失真,当失真超过一定限度后,信息将失去实用价值,因此要规定失真的限度.信息率失真是A/D转换、量化、频带压缩和数据压缩的理论基础.4.2.1失真函数1)失真函数定义信源经过信源编码后输出对于每一对(ui,

5、vj),指定一个非负函数d(ui,vj)≥0i=1,2,…,nj=1,2,…,m称d(xi,yj)为单个符号的失真函数.表示信源发出符号xi,接收端再现yj所引起的误差或失真.d(xi,yj)=0无失真,d(xi,yj)>0有失真.4.2信息率失真函数2)常用的失真函数1°平方误差失真函数d(xi,yj)=(xi-yj)22°绝对误差失真函数d(xi,yj)=

6、xi-yj

7、3°相对误差失真函数d(xi,yj)=

8、xi-yj

9、/

10、xi

11、4°误码失真函数失真函数1°,2°,3°用于连续信源,失真函数4°用于离散信源,失真函数4°也称Hanmming失真函数.3)失真矩阵dn×m矩阵4

12、.2.2平均失真xi和yj均为随机变量,所以d(xi,yj)也为随机变量,d(xi,yj)的平均失真用其数学期望或统计平均值描述,用符号表示.4.2.3信息率失真函数R(D)1)受信道容量的限制,实际应用中必须对信源进行压缩,应1°使其压缩后的信息传输率小于信道容量;2°保证压缩所引入的平均失真不超过预先给定的允许失真度D;3°在满足≤D的前提下,使编码后的信息率尽可能小.不等式≤D称为保真度准则2)试验信道1°有失真的信源编码器视作有干扰的信道(假想信道)2°当信源已知(即B(U)已知)时,单个符号的失真度给定,选择一类假想信道,使得≤D,这类假想信道称为D失真允许信道,或D失

13、真允许试验信道.记为BD={p(vj

14、ui):≤D;i=1,2,…,n;j=1,2,…m}p(vj

15、ui)为信道的传递概率。3)离散信源的信息率失真函数在允许信道BD中,寻求一个信道p(V

16、U),使给定的信源经过此信道后,互信息量I(U;V)达到最小.该最小互信息量称为信息率失真函数R(D),简称率失真函数N维信源符号序列的信息率失真函数RN(D):4)连续信源的信息率失真函数连续信源平均失真度为:连续信源的信息率失真函数:4)信息率失真函数R(D)物理意义1°R(D)是信源给定