资源描述：
《信息论与编码-曹雪虹-课后习题答案》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、《信息论与编码》-曹雪虹-课后习题答案第二章2.1一个马尔可夫信源有3个符号，转移概率为：，，，，，，，，，画出状态图并求出各符号稳态概率。解：状态图如下状态转移矩阵为：设状态u1，u2，u3稳定后的概率分别为W1，W2、W3由得计算可得2.2由符号集{0，1}组成的二阶马尔可夫链，其转移概率为：=0.8，=0.2，=0.2，=0.8，=0.5，=0.5，=0.5，=0.5。画出状态图，并计算各状态的稳态概率。解：于是可以列出转移概率矩阵：状态图为：设各状态00，01，10，11的稳态分布概率为W1,W2,W3,W4有得计算得到2.3同时掷出两个正常的
2、骰子，也就是各面呈现的概率都为1/6，求：(1)“3和5同时出现”这事件的自信息；(2)“两个1同时出现”这事件的自信息；(3)两个点数的各种组合（无序）对的熵和平均信息量；(4)两个点数之和（即2,3,…,12构成的子集）的熵；(5)两个点数中至少有一个是1的自信息量。解：(1)(2)(3)两个点数的排列如下：111213141516212223242526313233343536414243444546515253545556616263646566共有21种组合：其中11，22，33，44，55，66的概率是其他15个组合的概率是(4)参考上面的
3、两个点数的排列，可以得出两个点数求和的概率分布如下：(5)2-42.5居住某地区的女孩子有25%是大学生，在女大学生中有75%是身高160厘米以上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？解：设随机变量X代表女孩子学历Xx1（是大学生）x2（不是大学生）P(X)0.250.75设随机变量Y代表女孩子身高Yy1（身高>160cm）y2（身高<160cm）P(Y)0.50.5已知：在女大学生中有75%是身高160厘米以上的即：求：身高160厘米以上的某女孩是大学生的信息量即：
4、2.6掷两颗骰子，当其向上的面的小圆点之和是3时，该消息包含的信息量是多少？当小圆点之和是7时，该消息所包含的信息量又是多少？解：1）因圆点之和为3的概率该消息自信息量2）因圆点之和为7的概率该消息自信息量2.7设有一离散无记忆信源，其概率空间为（1）求每个符号的自信息量（2）信源发出一消息符号序列为{202120130213001203210110321010021032011223210}，求该序列的自信息量和平均每个符号携带的信息量解：同理可以求得因为信源无记忆，所以此消息序列的信息量就等于该序列中各个符号的信息量之和就有：平均每个符号携带的信息
5、量为bit/符号2.8试问四进制、八进制脉冲所含信息量是二进制脉冲的多少倍？解：四进制脉冲可以表示4个不同的消息，例如：{0,1,2,3}八进制脉冲可以表示8个不同的消息，例如：{0,1,2,3,4,5,6,7}二进制脉冲可以表示2个不同的消息，例如：{0,1}假设每个消息的发出都是等概率的，则：四进制脉冲的平均信息量八进制脉冲的平均信息量二进制脉冲的平均信息量所以：四进制、八进制脉冲所含信息量分别是二进制脉冲信息量的2倍和3倍。2-9“－”用三个脉冲“●”用一个脉冲(1)I(●)=I(－)＝(2)H=2-10(2)P(黑/黑)=P(白/黑)=H(Y/
6、黑)=(3)P(黑/白)=P(白/白)=H(Y/白)=(4)P(黑)=P(白)=H(Y)=2.11有一个可以旋转的圆盘，盘面上被均匀的分成38份，用1，…，38的数字标示，其中有两份涂绿色，18份涂红色，18份涂黑色，圆盘停转后，盘面上的指针指向某一数字和颜色。（1）如果仅对颜色感兴趣，则计算平均不确定度（2）如果仅对颜色和数字感兴趣，则计算平均不确定度（3）如果颜色已知时，则计算条件熵解：令X表示指针指向某一数字，则X={1,2,……….,38}Y表示指针指向某一种颜色，则Y={l绿色，红色，黑色}Y是X的函数，由题意可知（1）bit/符号（2）bi
7、t/符号（3）bit/符号2.12两个实验X和Y，X={x1x2x3},Y={y1y2y3},l联合概率为（1）如果有人告诉你X和Y的实验结果，你得到的平均信息量是多少？（2）如果有人告诉你Y的实验结果，你得到的平均信息量是多少？（3）在已知Y实验结果的情况下，告诉你X的实验结果，你得到的平均信息量是多少？解：联合概率为YXy1y2y3x17/241/240x21/241/41/24x301/247/24=2.3bit/符号X概率分布Xx1x2x3P8/248/248/24bit/符号Y概率分布是=0.72bit/符号Yy1y2y3P8/248/248
8、/242.13有两个二元随机变量X和Y，它们的联合概率为YXx1=0x2=1y1=01/83/
