资源描述：
《信息论与编码 张莲 周登义 余成波 5》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、第五章无失真信源编码主要内容一、信源编码与信道编码二、信源编码的分类三、无失真信源编码四、等长码及等长编码定理五、变长码及变长编码定理六、变长编码的方法一、信源编码与信道编码1、通过前面几章的学习，我们应该知道：各种通信系统，尽管它们的形式和用途各不相同，但都可以归结为第一章的一般模型。其中信源、信宿和信道是事先给定的，信源是产生消息的源泉，信宿用于接收信息，而信道则用于传输信息。为了实现高质量、高效率的通信，引入了信源编码的信道编码，这些都是由人来设计完成的，通信质量的优劣，很大程度上取决于编码、译码过程设计的优劣。2、信源编码和信道编
2、码各自解决的问题：（1）提高传输率：一般用尽可能少的信道传输符号来传递信源消息，目的是提高传输率，这是信源编码主要解决的问题。这就是本章第一小节要讨论的内容。（2）增强通信的可靠性：信号在信道的传播过程中总不可避免地受到各种干扰，在这种情况下，如何增加信号的抗干扰能力，提高传输的可靠性，是信道编码主要考虑的问题。解决这一问题，一般采用冗余编码法，即按照一定的编码规则事先给信码加上一定的冗余度（检测位），赋予信码自身一定的纠错和检错能力，只要采取适当的信道编码和译码措施，就可使信道传输的错误概率降到允许的范围之内，这是后面第六章《信道编码》
3、中要讨论的问题。综上所述，提高抗干扰能力往往是以降低信息传输率为代价的，而为了提高传输率又往往削弱了其抗干扰能力。这样，设计者在取舍之间就要进行均衡考虑，当然，香龙已经在理论上证明，至少存在某种最佳编码方法，可以有效地解决上述矛盾。二、信源编码的分类信源编码可分两种情况讨论，即允许接收信号有一定的失真或不允许失真。无失真信源编码此方法不考虑信道的干扰，仅考虑的是将信源输出的全部信息在接收端精确地重现出来，它只是对信源的冗余度进行压缩，并不改变信源的熵。（1）此时，将信道编码和译码看成是信道的一个部分。是本章讨论的主要内容。（2）适用范围：
4、主要针对离散信源。而连续信源在量化编码的过程中必然会有量化失真，所以，对连续信源只能近似地再现信源的消息。限失真信源编码在许多实际情况中，信宿并不要求完全精确地复现信源输出的原信号，例如，在电话通信系统中，只要将通话内容送达对方就可以了，对音质并没有太高的要求。在这种情况下，允许接收信号有一定的失真，为提高传输率，我们可以事先对信源进行压缩编码，能压缩到什么程度由允许失真的程度来确定。这是本章第2小节至第8小节需要讨论的问题。适用范围：主要针对连续信源；共同点：均以提高信息率为主要最终目的。三、无失真信源编码（5.1节）主要内容：一般用尽
5、可能少的符号来传输信源消息，以便提高传输效率，这是信源编码应考虑的问题，本小节讨论在不允许失真的情况下的信源编码。等长编码定理给出了等长编码条件下，其码长的下限值，变长编码定理（香龙第一定理）给出了信源无失真变长编码时其码长的上、下限值。本章还介绍了三种通用信源编码方法、费诺编码法和霍夫曼编码法。知识要点：信息传输率、克拉夫特不等式、等长编码定理、变长编码定理、编码效率、无失真编码方法。信源编码的定义和两个功能：实际上是对信源的原始符号按一定的数学规则进行变换的一种代码。信源编码的两个功能（或目的）：（1）将信源符号变换成适合信道传输的符
6、号；（2）压缩信源冗余度，提高传输率；1、信源编码的相关概念：1）编码：对信源输出的原始符号按照一定的数学规则进行的一种变换。2）编码器：完成编码功能的具体器件。3）译码器：在接收端完成与编码器相反功能的具体器件。4）码序列：将信源输出的符号序列（或称消息），变换成适合信道传输的符号序列，称为码序列。2、无失真信源编码器的数学模型：两个输入：（1）信源符号集S={s1,s2,…,sq},共有q个信源符号。（2）码符号集（或称基本符号集）={x1,x2,…,xr}，共有r个符号组成。该集中的元素称为码元或码符号。一个输出：码字集合（或称代码
7、组）C={W1,W2,…,Wq}。编码器完成的任务：将信源符号集S中的符号Si，i=1，2，…，q变换成由Li个码符号组成的一一对应的码符号序列，即码字，并用Wi,i=1,2,…,q来表示。码字与信源符号Si之间是一一对应的关系，如图5.1.1所示码长：信源符号Si对应的码字Wi包含Li个码符号，称为码长。总之，信源编码就是把信源符号序列变换到码符号序列的一种映射。若要实现无失真编码，那么这种映射必须是一一对应、可逆的。一般所来，人们总是希望把信源所有的信息毫无保留地传递到接收端，即实现无失传递，所以首先要对信源实现无失真编码。3、举例说
8、明用编码器实现对信源符号的编码天气预报：信源有4个消息{晴、阴、雨、雪}待发.方法一：如果码符号集为{1,2,3,4}，此时，因为消息个数与码符号集个数相等，可以用单符号来表示这4个消息。方法
