信息论与编码原理第6章信源编码

《信息论与编码原理第6章信源编码》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、信息论与编码原理（第六章）──────────────信源编码9/8/20211DepartmentofElectronicsandInformation,NCUTSongPeng第六章信源编码6.1引言6.2香农编码6.3费诺编码6.4哈夫曼编码6.8LZW码6.7LZ码6.6算术编码6.5游程编码6.9信源编码总结9/8/20212DepartmentofElectronicsandInformation,NCUTSongPeng6.1引言6.1.1编码的目的6.1.2信源编码概论9/8/20213DepartmentofElectronicsandInforma

2、tion,NCUTSongPeng6.1.1编码的目的香农编码定理虽然指出了理想编码器的存在性，但是并没有给出实用码的结构及构造方法；编码理论正是为了解决这一问题而发展起来的科学理论；编码的目的是为了优化通信系统，使这些指标达到最佳；通信系统的性能指标主要是有效性、可靠性、安全性和经济性，除了经济性外，这些指标正是信息论研究的对象。按不同的编码目的，编码分为三类：信源编码、信道编码和安全编码（密码）。6.1引言9/8/20214DepartmentofElectronicsandInformation,NCUTSongPeng6.1.1编码的目的信源编码：提高通信有效

3、性为目的的编码。通常通过压缩信源的冗余度来实现。采用的一般方法是压缩每个信源符号的平均比特数或信源的码率。即同样多的信息用较少的码率传送，使单位时间内传送的平均信息量增加，从而提高通信的有效性。信道编码：提高信息传输的可靠性为目的的编码。通常通过增加信源的冗余度来实现。采用的一般方法是增大码率（带宽）。与信源编码正好相反。保密编码：提高通信系统的安全性为目的的编码。通常通过加密和解密来实现。从信息论的观点出发，“加密”可视为增熵的过程，“解密”可视为减熵的过程。返回目录6.1引言9/8/20215DepartmentofElectronicsandInformatio

4、n,NCUTSongPeng6.1.2信源编码概述(1)信源编码的理论基础信源编码理论是信息论的一个重要分支，其理论基础是信源编码的两个定理。无失真信源编码定理：是离散信源/数字信号编码的基础；限失真信源编码定理：是连续信源/模拟信号编码的基础。6.1引言9/8/20216DepartmentofElectronicsandInformation,NCUTSongPeng6.1.2信源编码概述(2)信源编码的分类根据信源特性离散信源编码：独立信源编码，可做到无失真编码；连续信源编码：独立信源编码，只能做到限失真信源编码；相关信源编码：非独立信源编码。根据压缩的特性冗余

5、度压缩编码：可逆压缩，经编译码后可以无失真地恢复。熵压缩编码：不可逆压缩。6.1引言9/8/20217DepartmentofElectronicsandInformation,NCUTSongPeng6.1.2信源编码概述(3)数据压缩概貌KLT：Karhunen-LoeveTransformDCT：DiscreteCosineTransformDST：DiscreteSinusoidTransformDFT：DiscreteFourierTransformWHT：Walsh-HadamardTransformSLT：SlantTransformHAAR：HaarT

6、ransformLPC-10：GovernmentStandardLinearPredictiveCodingAlgorithm:LPC-10MELP：MixedExcitedLinearPredictiveCodingCELP：CodebookExcitedLinearPredictiveCodingACELP：AlgebraicCocebookExcitationLPCQCELP：QualcomCocebookExcitationLPCEVRC：EnhancedVariableRateCodecLD-CELP：LowDelay-CELP28种6.1引言9/8/20

7、218DepartmentofElectronicsandInformation,NCUTSongPeng6.1.2信源编码概述(3)数据压缩概貌CS-ACELP：Conjugate-StructureAlgebraicCELPVSELP：VectorSumExcitationLPCRPE-LT：LongTimePredictiveRegular-PulseExcitationLPCMPLPC：Multi-PulseExcitationLPCMP-MLQ：MultipulseMaximumLikelihoodQuantizationMBE：Multi