编码理论 教学课件 作者 田丽华 资源第3章 相关信源编码.ppt

《编码理论 教学课件 作者 田丽华 资源第3章 相关信源编码.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第3章相关信源编码3.1预测编码3.2变换编码3.1预测编码预测编码(PredictiveCoding)是数据压缩三大经典技术(统计编码、预测编码、变换编码)之一。预测编码是建立在信号(语音、图像等)数据的相关性之上，较早用于信源编码的一种技术。它根据某一模型，利用以往的样本值对新样本进行预测，以减少数据在时间和空间上的相关性，达到压缩数据的目的。但实际利用预测器时，并不是利用信源的某种数学模型，而是基于估计理论、现代统计学理论设计预测器，这是因为信源的数学模型的建立是十分困难的，有时无法得到其数学模型，例如,时变随机系统。利用信源输

2、出产生的任何影响，并不直接涉及到信源本身，所以预测器可以独立进行工作。利用现代统计学和控制论的“时间序列分析”理论，可以较好地解决复杂系统的输出状态问题。预测器对样本的预测，通常是利用样值的线性或非线性函数关系预测现时的系统输出。由于非线性的复杂性，大部分预测器均采用线性预测函数。科尔莫戈罗夫(Kolmogorov)、维纳(Wiener)、卡尔曼(Kalman)等人在20世纪40年代对线性预测理论就作出了杰出贡献，他们建立了以最小均方量化误差为准则的最优预测理论与方法，广泛应用于通信工程和航天航空飞行器的控制等方面，促进了数字技术的迅

3、速发展，形成了用于数据压缩的预测编码理论。3.1.1预测编码的基本原理对于有记忆信源，信源输出的各个分量之间是有统计关联的，这种统计关联性可以加以充分利用，预测编码就是基于这一思想的技术。它不直接对信源输出的信号进行编码，而是将信源输出信号通过预测变换后再对信源输出与被预测值的差值进行编码，其原理图如图3-1所示。图3―1预测编码原理图设信源第i瞬间的输出值为ui，而根据信源ui的前k(k

4、测值为（3―2）式中：aj——预测系数。则第i个样值的预测误差值为（3―3）根据信源编码定理，若直接对信源输出ui进行编码，则其平均码长应趋于信源熵：(3―4)若对预测变换后的误差值e进行编码，其平均码长应趋于误差信号熵：(3―5)显然，从信息论观点，预测编码能压缩信源数码率的必要条件为(3―6)由于信息熵是概率分布的泛函数，故概率分布越均匀，熵越大；概率分布越不均匀，熵就越小，可以证明预测差值的概率分布比原始信号的概率分布要集中，所以H(E)≤H(U)，则式（3―6）成立。信源通过预测以后数据压缩(或连续时的频带压缩)倍数就越大。

5、从预测编码原理可以看出，实现预测编码要进一步考虑三个方面的问题。首先是预测误差准则的选取，这个问题决定预测质量标准；其次是预测函数的选取；最后一个问题是预测器输入数据的选取。后两个问题决定预测质量的好坏。关于预测函数的选取，一般是采用工程上比较容易实现的线性预测，一旦线性方程确定下来以后，预测的精度与k值大小有直接关系。k愈大，预测愈精确，但设备愈复杂；k愈小，精度愈差，但设备愈简化，所以k值大小要根据设计要求和实际效果而确定。关于预测器输入数据的选取，是指选取何处的原始数据作为预测器的输入依据。一般可分为开环、闭环和开环闭环两者的混

6、合三类。开环直接从信源输出选取待测瞬间i的前k位，即i-1，i-2，…，i-k位作为预测器的输入依据，闭环则取误差函数的输出端反馈到预测器中的i位以前的k位作为预测器的主要输入依据。关于预测误差准则的选取，是指预测误差所依据的标准。目前大致可采用四种类型准则，它们分别是最小均方误差(MMSE)准则、功率包络匹配(PSEM)准则、预测系数不变性(PCIV)准则和最大误差(ME)准则。其中最小均方误差准则是最基本、最常用的准则；而预测系数不变性的主要特点是，它预测系数与输入信号统计特性无关，因而能对多种混合信号进行有效的预测；最大误差准则

7、主要用于遥测数据压缩。可以证明，在均方误差准则下，按条件期望值进行预测是最佳预测。然而它必须已知ui的联合概率密度函数，这一般是很困难的。但是对于广义平稳正态过程，只要已知二阶矩相关函数就等效于已知ui的联合概率密度函数。这时，线性预测与最佳预测是等效的。因为对正态信源，线性无关与统计独立是完全等效的。所以，能完全解除线性相关性的信源，即是符合统计独立的无记忆信源。3.1.2预测方法预测就是从已收到的符号来提取关于未收到的符号信息，从而预测其最可能的值作为预测值；并对它与实际值之差进行编码，达到进一步压缩码率的目的。由此可见，预测

8、编码是利用信源的相关性来压缩码率的；对于独立信源，预测就没有可能，因而预测编码也就无用了。预测的理论基础主要是估计理论。估计就是用实验数据组成一个统计量，作为某一物理量的估值或预测值。最常见的估计是利用某一物理量在干扰下