《信息论与编码基础》唐朝京 课后答案.pdf

《《信息论与编码基础》唐朝京 课后答案.pdf》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、课后答案网www.khdaw.com第二章离散信源2.1同时掷出两个正常的骰子，也就是各面呈现的概率都为1/6，求：(1)“3和5同时出现”这事件的自信息；(2)“两个1同时出现”这事件的自信息；(3)两个点数中至少有一个是1的自信息量。解：(1)11111p(x)=×+×=i6666181I(x)=−logp(x)=−log=.4170biti2i218(2)111p(x)=×=i66361I(x)=−logp(x)=−log=.5170biti2i236(3)1111p(x)=××11=i663611I(x)=−logp(x)=−log=.1710biti2

2、i2362.2居住某地区的女孩子有25%是大学生，在女大学生中有75%是身高160厘米以上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？解：设随机变量X代表女孩子学历Xx1（是大学生）x2（不是大学生）P(X)0.250.75设随机变量Y代表女孩子身高Yy1（身高>160cm）y2（身高<160cm）P(Y)0.50.5已知：在女大学生中有75%是身高160厘米以上的即：p(y1/x1)=0.75求：身高160厘米以上的某女孩是大学生的信息量pyx(

3、)11⎛⎞0.75即：I(,xy)

4、=−log=−log⎜⎟=0.585bit112py()1⎝⎠0.5课后答案网www.khdaw.com2.3掷两颗骰子，当其向上的面的小圆点之和是3时，该消息包含的信息量是多少？当小圆点之和是7时，该消息所包含的信息量又是多少？解：11）因圆点之和为3的概率px()=+=p(1,2)p(2,1)18该消息自信息量I()xp=−log()x=log18=4.170bit2）因圆点之和为7的概率1px()(=+++++=p1,6)(p6,1)(p2,5)(p5,2)(p3,4)(p4,3)6该消息自信息量I()xp=−log()x=log6=2.585bit2.5

5、黑白气象传真图的消息只有黑色和白色两种，即信源X={黑，白}。设黑色出现的概率为P(黑)=0.3，白色出现的概率为P(白)=0.7。假设图上黑白消息出现前后没有关联，求熵H(X)；解：H(X)=−∑p(xi)logp(xi)=−3.0(log3.0+7.0log)7.0log210=.0881bit/symboli2.7消息源以概率PPPPP=====1/2,1/4,1/8,1/16,1/16,发送5种消息符12345号mmmmm,,,,。12345（1）若每个消息符号出现是独立的，求每个消息符号的信息量。（2）求该符号集的平均信息量。解：（1）因为消息符号出现

6、是独立的，所以每个消息符号的信息量分别为：Im()l==og21bit1Im()l==og42bit2Im()l==og83bit3I()()lmI===mog164bit45（2）该符号集的平均信息量即为信源熵11111H()Xb=++++=log2log4log8log16log161.875it2481616⎡X⎤⎧x1=0x2=1x3=2x4=3⎫2.8设离散无记忆信源⎢⎥=⎨⎬，其发出的信息⎣P(X)⎦⎩8/34/14/18/1⎭为(202120130213001203210110321010021032011223210)，求(1)此消息的自信息量是

7、多少？(2)此消息中平均每符号携带的信息量是多少？解：课后答案网www.khdaw.com(1)此消息总共有14个0、13个1、12个2、6个3，因此此消息发出的概率是：14256⎛3⎞⎛1⎞⎛1⎞p=⎜⎟×⎜⎟×⎜⎟⎝8⎠⎝4⎠⎝8⎠此消息的信息量是：I=−logp=87.811bit2(2)此消息中平均每符号携带的信息量是：I/n=87.811/45=.1951bit⎡X⎤⎧x1x2x3x4x5x6⎫2.10设信源⎢⎥=⎨⎬，求这个信源的熵，并⎣P(X)⎦⎩2.0.019.018.017.016.017⎭解释为什么H(X)>log6不满足信源熵的极值性。解：

8、6H(X)=−∑p(xi)log2p(xi)i=−2.0(log2.0+.019log.019+.018log.018+.017log.017+.016log.016+.017log.017)222222=.2657bit/symbolH(X)>log6=.258526不满足极值性的原因是∑p(xi)=.107>1。i52.11每帧电视图像可以认为是由3¯10个像素组成的，所有像素均是独立变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概出现，问每帧图像含有多少信息量？若有一个广播员，在约10000个汉字中选出1000个汉字来口述此电视图像，试问广播员

9、描述此图像所广播的信息量