信息论第二章课后习题解答

《信息论第二章课后习题解答》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第二章课后习题【2.1】设有12枚同值硬币，其中有一枚为假币。只知道假币的重量与真币的重量不同，但不知究竟是重还是轻。现用比较天平左右两边轻重的方法来测量。为了在天平上称出哪一枚是假币，试问至少必须称多少次？解：“12枚硬币中，某一枚为假币”该事件发生的概率为“假币的重量比真的轻，或重”该事件发生的概率为为确定哪一枚是假币，即要消除上述两事件的联合不确定性，由于二者是独立的，因此有而用天平称时，有三种可能性：重、轻、相等，三者是等概率的，均为，因此天平每一次消除的不确定性为比特因此，必须称的次数为：因此，至少

2、需称3次。【2.2】同时扔一对均匀的骰子，当得知“两骰子面朝上点数之和为2”或“面朝上点数之和为8”或“两骰子面朝上点数是3和4”时，试问这三种情况分别获得多少信息量？解：“两骰子总点数之和为2”，即两骰子的点数各为1，由于二者是独立的，因此该种情况发生的概率为，该事件的信息量为：“两骰子总点数之和为8”共有如下可能：2和6、3和5、4和4、5和3、6和2，概率为，因此该事件的信息量为：“两骰子面朝上点数是3和4”的可能性有两种：3和4、4和3，概率为因此该事件的信息量为：【2.4】居住某地区的女孩中有25%

3、是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数一半。假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量？解：设A表示女孩是大学生，P(A)=0.25；B表示女孩身高1.6米以上，P(B

4、A)=0.75,P(B)=0.5“身高1.6米以上的某女孩是大学生”的发生概率为:已知该事件所能获得的信息量为【2.5】设离散无记忆信源，其发出的消息为（202120130213001203210110321010021032011223210），求（1）此消息的

5、自信息是多少？（2）在此消息中平均每个符号携带的信息量是多少？解：信源是无记忆的，此时发出的消息的自信息即为各消息的自信息之和。各消息所包含的信息量分别为：发出的消息中，共有14个“0”，13个“1”，12个“2”，6个“3”，则得到消息的自信息为：平均每个符号携带的信息量为【2.7】从大量统计资料知道，男性中红绿色盲的发病率为7%，女性发病率为0.5%，如果你问一位男同志：“你是否是红绿色盲？”，他的回答可能是“是”，也可能是“否”，问这两个回答中各含有多少信息量？平均每个回答中含有多少信息量？如果你问一

6、位女同志，则答案中含有的平均自信息量是多少？解：男为红绿色盲的概率空间为：问男，回答“是”所获昨的信息量为：问男，回答“否”所获得的信息量为：男，平均回答中含有的信息量为：同样，女为红绿色盲的概率空间为问女，回答“是”所获昨的信息量为：问女，回答“否”所获昨的信息量为：女，平均回答中含有的信息量为【2.12】（1）为了使电视图像获得良好的清晰度和规定的适当的对比度，需要用5×105个像素和10个不同亮度电平，求传递此图像所需的信息率（比特/秒）。并设每秒要传送30帧图像，所有像素是独立变化的，且所有亮度电平等

7、概率出现。（2）设某彩电系统，除了满足对于黑白电视系统的上述要求外，还必须有30个不同的色彩度，试证明传输这彩色系统的信息率要比黑白系统的信息率约大2.5倍。解：（1）每个像素的电平取自10个不同的电平，形成的概率空间为：这样，平均每个像素携带的信息量为：每帧图像含有的信息量为：按每秒传输30帧计算，每秒需要传输的比特数，即信息传输率为：（2）需30个不同的色彩度，设每个色彩度等概率出现，则其概率空间为：由于电平与色彩是互相独立的，因此有这样，彩色电视系统的信息率与黑白电视系统信息率的比值为【2.13】每帧

8、电视图像可以认为是由3×105个像素组成，所以像素均是独立变化，且每一像素又取128个不同的亮度电平，并设亮度电平等概率出现。问每帧图像含有多少信息量？若现有一广播员在约10000个汉字的字汇中选1000个来口述此电视图像，试问广播员描述此图像所广播的信息量是多少（假设汉字是等概率分布，并且彼此无依赖）？若要恰当地描述此图像，广播员在口述中至少需用多少汉字？解：每个像素的电平亮度形成了一个概率空间，如下：平均每个像素携带的信息量为：每帧图像由3×105个像素组成，且像素间是独立的，因此每帧图像含有的信息量为

9、：平均每个汉字携带的信息量为bit/sym;选择1000字来描述，携带的信息量为需要汉字个数为：【2.18】设有一信源，它在开始时以P(a)=0.6，P(b)=0.3,P(c)=0.1的概率发出X1。如果X1为a时，则X2为a、b、c的概率为1/3；如果X1为b时，则X2为a、b、c的概率为1/3；如果X1为c时，则X2为a、b的概率为1/2，为c的概率为0。而且后面发出Xi的概率只与Xi-1有关，