信息论与编码考试答案

《信息论与编码考试答案》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、1.最大熵定理：离散无记忆信源，等概率分布时熵最大。最大熵值是Hmax=㏒2N2.信源编码是以提高信息传输的可靠性为目的的编码，信源编码的作用之一是设法减少码元数目和降低码元速率,即通常所说的数据压缩。作用之二是将信源的模拟信号转化成数字信号，以实现模拟信号的数字化传输。3.（1）H(x)==—∑P(xi)㏒P(xi)=-1/2㏒1/2-1/4㏒1/4-2×1/8㏒1/8=1/2+2/4+3/4=1.75(it/symbol)(2)本体可参照此图，我就算画出来也写不上来啊(3)平均码长：（这个是等上面第二题的算出来之后在计算的，我给个参

2、考式）编码效率：=1.75/平局码长=4.无失真编码只适用于离散信源，对于连续信道，只能在失真受限制的情况下进行限失真编码。通常所采用的编码方法有：香农编码，费诺编码，霍夫曼编码等。其中霍夫曼编码方法：2．哈夫曼编码的特点①哈夫曼方法构造出来的码不是唯一的。原因·在给两个分支赋值时,可以是左支(或上支)为0,也可以是右支(或下支)为0,造成编码的不唯一。·当两个消息的概率相等时,谁前谁后也是随机的,构造出来的码字就不是唯一的。②哈夫曼编码码字字长参差不齐,因此硬件实现起来不大方便。③哈夫曼编码对不同的信源的编码效率是不同的。·当信源概率

3、是2的负幂时,哈夫曼码的编码效率达到100%;·当信源概率相等时,其编码效率最低。·只有在概率分布很不均匀时,哈夫曼编码才会收到显著的效果,而在信源分布均匀的情况下,一般不使用哈夫曼编码。④对信源进行哈夫曼编码后,形成了一个哈夫曼编码表。解码时,必须参照这一哈夫编码表才能正确译码。·在信源的存储与传输过程中必须首先存储或传输这一哈夫曼编码表在实际计算压缩效果时,必须考虑哈夫曼编码表占有的比特数。在某些应用场合,信源概率服从于某一分布或存在一定规律(这主要由大量的统计得到),这样就可以在发送端和接收端固定哈夫曼编码表,在传输数据时就省去了

4、传输哈夫曼编码表,这种方法称为哈夫曼编码表缺省使用。使用缺省的哈夫曼编码表有两点好处:·降低了编码的时间,改变了编码和解码的时间不对称性;·便于用硬件实现,编码和解码电路相对简单。这种方法适用于实时性要求较强的场合。虽然这种方法对某一个特定应用来说不一定最好,但从总体上说,只要哈夫曼编表基于大量概率统计,其编码效果是足够好的。参考地址http://wenku.baidu.com/view/d9193c2e453610661ed9f439.html?from=rec&pos=2&weight=2&lastweight=2&count=5限

5、失真编码略