第二章信息量和熵习题解

《第二章信息量和熵习题解》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第二章-信息量和熵习题解2.1莫尔斯电报系统中，若采用点长为0.2s，1划长为0.4s，且点和划出现的概率分别为2/3和1/3，试求它的信息速率(bits/s)。解:平均每个符号长为:秒每个符号的熵为比特/符号所以，信息速率为比特/秒2.2一个8元编码系统，其码长为3，每个码字的第一个符号都相同(用于同步)，若每秒产生1000个码字，试求其信息速率(bits／s)。解:同步信号均相同不含信息,其余认为等概,每个码字的信息量为3*2=6比特；所以，信息速率为比特/秒2.3掷一对无偏的骰子，若告诉你得到的总的点数为：(a)7；(b)12。试问各得到了多少信息量?解:(a)一对骰

2、子总点数为7的概率是所以，得到的信息量为比特(b)一对骰子总点数为12的概率是所以，得到的信息量为比特2.4经过充分洗牌后的一付扑克(含52张牌)，试问：(a)任何一种特定排列所给出的信息量是多少?(b)若从中抽取13张牌，所给出的点数都不相同时得到多少信息量?解:(a)任一特定排列的概率为,所以，给出的信息量为比特(b)从中任取13张牌,所给出的点数都不相同的概率为19/19所以，得到的信息量为比特.2.3设有一个非均匀骰子，若其任一面出现的概率与该面上的点数成正比，试求各点出现时所给出的信息量，并求掷一次平均得到的信息量。解:易证每次出现i点的概率为,所以2.4园丁植树

3、一行，若有3棵白杨、4棵白桦和5棵梧桐。设这12棵树可随机地排列，且每一种排列都是等可能的。若告诉你没有两棵梧桐树相邻时，你得到了多少关于树的排列的信息?解:可能有的排列总数为没有两棵梧桐树相邻的排列数可如下图求得，YXYXYXYXYXYXYXY图中X表示白杨或白桦，它有种排法，Y表示梧桐树可以栽种的位置，它有种排法，所以共有*=1960种排法保证没有两棵梧桐树相邻，因此若告诉你没有两棵梧桐树相邻时，得到关于树排列的信息为=3.822比特2.7某校入学考试中有1/4考生被录取，3/4考生未被录取。被录取的考生中有50%来自本市，而落榜考生中有10％来自本市，所有本市的考生都

4、学过英语，而外地落榜考生中以及被录取的外地考生中都有40%学过英语。(a)当己知考生来自本市时，给出多少关于考生是否被录取的信息?19/19(b)当已知考生学过英语时，给出多少有关考生是否被录取的信息?(c)以x表示是否落榜，y表示是否为本市学生，z表示是否学过英语，x、y和z取值为0或1。试求H(X)，H(Y

5、X)，H(Z

6、YZ)。解:X=0表示未录取，X=1表示录取；Y=0表示本市，Y=1表示外地；Z=0表示学过英语，Z=1表示未学过英语，由此得19/192.8在A、B两组人中进行民意测验，组A中的人有50%讲真话(T)，30%讲假话(F)，20%拒绝回答(R)。而组B

7、中有30%讲真话，50%讲假话和20%拒绝回答。设选A组进行测验的概率为p，若以I(p)表示给定T、F或R条件下得到的有关消息来自组A或组B的平均信息量，试求I(p)的最大值。解:令，则19/192.9随机掷三颗骰子，以X表示第一颗骰子抛掷的结果，以Y表示第一和第二颗骰子抛掷的点数之和，以Z表示三颗骰子的点数之和。试求H(Z

8、Y)、H(X

9、Y)、H(Z

10、XY)，H(XZ

11、Y)和H(Z

12、X)。解:令X=X1,Y=X1+X2,Z=X1+X2+X3,H(X1)=H(X2)=H(X3)=比特H(X)=H(X1)==2.585比特H(Y)=H(X2+X3)==3.2744比特H(Z)

13、=H(X1+X2+X3)=3.5993比特所以H(Z/Y)=H(X3)=2.585比特H(Z/X)=H(X2+X3)=3.2744比特H(X/Y)=H(X)-H(Y)+H(Y/X)=2.585-3.2744+2.585=1.8955比特H(Z/XY)=H(Z/Y)=2.585比特H(XZ/Y)=H(X/Y)+H(Z/XY)=1.8955+2.585=4.4805比特2.12计算习题2.9中的I(Y；Z)，I(X；Z)，I(XY；Z)，I(Y；Z

14、X)和I(X；Z

15、Y)。19/19解:I(Y;Z)=H(Z)-H(Z/Y)=H(Z)-H(X3)=3.5993-2.585=1.0

16、143比特I(X;Z)=H(Z)-H(Z/X)=3.5993-3.2744=0.3249比特I(XY ;Z)=H(Z)-H(Z/XY)=H(Z)-H(Z/Y)=1.0143比特I(Y;Z/X)=H(Z/X)-H(Z/XY)=H(X2+X3)-H(X3)=3.2744-2.585=0.6894比特I(X;Z/Y)=H(Z/Y)-H(Z/XY)=H(Z/Y)-H(Z/Y)=02.10设有一个系统传送10个数字：0,1,…,9。奇数在传送时以0.5的概率错成另外的奇数，而其它数字总能正确接收。试求收到一个数字平均得到的信