信息论与编码-曹雪虹-第二章-课后习题答案

《信息论与编码-曹雪虹-第二章-课后习题答案》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、特别说明此资料来自百度文库（http://wenku.baidu.com/）您目前所看到的文档是使用的抱米花百度文库下载器所生成此文档原地址来自http://wenku.baidu.com/view/268c8116866fb84ae45c8dff.html感谢您的支持抱米花http://blog.sina.com.cn/lotusbaob{}()一个马尔可夫信源有个符号，转移概率为：

2、1/22.13uuupuu1,2311=，,()()()()()

3、1/2

4、0

5、1/3

6、0

7、2/3puupuupuupuupuu21=31=12=22=32=，，，，，()()()，画出状态图并求出各符号稳态

8、概率。

9、1/3

10、2/3

11、0puupuupuu13=23=33=，，解：状态图如下1/21/21/32/32/31/3uu状态转移矩阵为：121/21/201/302/3p=1/32/30u3设状态稳定后的概率分别为WWWuuu123123，、，，1112331223231WWWW10++=1231WWW123=25WPWWWWWWWWWWWW9+==13223123得计算可得由2.2=125++=1236==25++=由符号集组成的二阶马尔可夫链，其转移概率为：(0

12、00)(0

13、11){01}=0.8=0.2pp，，，(1

14、

15、00)(1

16、11)(0

17、01)(0

18、10)(1

19、01)(1

20、10)=0.2=0.8=0.5=0.5=0.5=0.5pppppp，，，，，。画出状态图，并计算各状态的稳态概率。解：(0

21、00)(00

22、00)0.8(0

23、01)(10

24、01)0.5pppp====(0

25、11)(10

26、11)0.2(0

27、10)(00

28、10)0.5pppp====(1

29、00)(01

30、00)0.2(1

31、01)(11

32、01)0.5pppp====(1

33、11)(11

34、11)0.8(1

35、10)(01

36、10)0.5pppp====0.80.200000.50.5于是可以列出转移概率矩阵：p=0.50.500

37、000.20.8状态图为：设各状态的稳态分布概率为有00011011W,WWW12,3,4，，，5WWWW1234=140.80.50.20.50.50.20.50.8WWWWWWWWWWWWWWWW+=13113224324412341WPW+===7得计算得到41+=琮1W1ii=+===71+++=5=142.3同时掷出两个正常的骰子，也就是各面呈现的概率都为1/6，求：(1)“3和5同时出现”这事件的自信息；(2)“两个1同时出现”这事件的自信息；(3)两个点数的各种组合（无序）对的熵和平均信息量；(4)两个点数之和（即2,3,

38、⋯,12构成的子集）的熵；(5)两个点数中至少有一个是1的自信息量。解：(1)170.4181log)(log)(18161616161)(=琬=琬==×+×=bitxpxIxpiii(2)170.5361log)(log)(3616161)(=琬=琬==×=bitxpxIxpiii(3)两个点数的排列如下：111213141621152631222324253641323334354651424344455661525354556662636465共有种组合：21111其中的概率是112233445566=×，，，，，66361211其其个组合的概率是15=××6618/33

39、7.4181log18115361log3616)(log)()(琮symbolbitxpxpXH(4)×+×琬=琬==iii参考上面的两个点数的排列，可以得出两个点数求和的概率分布如下：/274.361log61365log365291log912121log1212181log1812361log3612)(log)()(36112181111211091936586173656915121418133612)(symbolbitxpxpXHXPX=琮+×+×+×+×+×琬=琬=iii=(5)710.13611log)(log)(361111

40、6161)(=琬=琬==××=bitxpxIxpiii2-42.5居住某地区的女孩子有25%是大学生，在女大学生中有75%是身高160厘米以上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？解：设随机变量代表女孩子学历X（是大学生）（不是大学生）Xxx120.250.75P(X)设随机变量代表女孩子身高Y（身高（身高））Yy>160cm<160c