资源描述：
《作业参考答案-信息论》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。
1、2.3一副充分洗乱的牌（含52张）,试问：（1）任一特定排列所给出的不确定性是多少？（2）随机抽収13张牌，13张牌的点数互不相同时的不确定性是多少？解：（1）52张扑克牌可以按不同的顺序排列，所有可能的不同排列数就是全排列种数，为=52!«8.066xlO67因为扑克牌充分洗乱，任一特定排列出现的概率相等，设事件A为任一特定排列，则其发生概率为P（A）=丄5.24x10血1丿52!可得，该排列发生所给出的信息量为/（A）=-log2P（A）=log252!«225.58bit«67.91dit（2）设事件B为从中抽取13张牌，所给出的点数互不相同。扑克牌52张中抽取13张，不考虑
2、排列顺序，共有C；；种可能的组合。13张牌点数互不相同意味看点数包括A,2,…，K,而每-•种点数有4种不同的花色意味着每个点数可以取4屮花色。所以13张牌屮所有的点数都不相同的纽合数为4门。因为每种纽合都是等概率发生的，所以£二伫空“0568x10°'752!则发生事件B所得到的信息量为/(B)=-logP(B)=-log241313.208bit°52«3.976dit2.5设在一只布袋屮装有100只对人手的感觉完全札I同的木球，每只上涂有1种颜色。100只球的颜色有下列三种情况：（1）红色球和白色球各50只；（2）红色球99只，白色球1只；（3）红，黄，蓝，口色各25只。求从
3、布袋中随意取出一只球时，猜测其颜色所需要的信息量。解：猜测木球颜色所需要的信息量等于木球颜色的不确定性。令R——“取到的是红球”，W——“取到的是白球”，Y——“取到的是黄球”，B——“取到的是蓝球”。（1）若布袋中有红色球和口色球各50只，即p(/?)=p(w)=则/（/?）=/（VV）=-log21=log22=1bit（2）若布袋中红色球99只，口色球1只，即991P（R、=一=0.99P（W}=—=0.01v7100'丿100则/（/?）=-log2P（/?）=-log20.99=0.0145bitZ（W）=-log2P（W）=-log20.01=6.644bit（3）若布
4、袋中有红，黄，蓝，白色各25只，即p（/?）=p（y）=p（B）=p（w）=^=i则Z（/?）=Z（r）=Z（B）=Z（W）=-log2^-=2bit2.7设信源为XX]兀2兀3兀4X5兀6_Px~[o.20.190.180」70」60.1766求一工P（兀Jlog?户（兀），井解释为什么一工户（兀）10g2P（X,）＞10g26,不满足信源爛的//极值性。6解：-工尸（兀）10艮卩（兀）■I=-（0.21og20.2+0.191og20.19+0.181og20.18+0.171og20.17+0.16kg0.16+0.1710/0.17）=2.657bit/symbol6一工
5、P（兀）,0§2P（兀）〉lo§26=2.5856不满足极值性的原因是为戶（忑）=1.07〉1,不满足概率的完备性。2.8大量统计表明，男性红绿色肓的发病率为7%,女性发病率为0.5%,如果你问一位男同志是否为红绿色盲，他回答“是”或“否”。（1）这二个冋答屮各含多少信息量？（2）平均每个回答屮含有多少信息量？（3）如果你问一位女同志，则答案中含有的平均信息最是多少？解：对于男性，是红绿色盲的概率记作P（®）=7%,不是红绿色盲的概率记作P（°2）=93%,这两种情况各含的信息量为/（q）=log2[l/P（aj）]=log2字=3.83bit/（。2）=10§2[1/戶仏）]=I
6、。/罟=°1"舐平均每个回答中含有的信息量为H（4）=P（dJ/（dJ+P（d2）心2）793=——x3.83+——xO.105100100=0.366bit/回答对于女性，是红绿色盲的概率记作P©）=0.5%,不是红绿色盲的记作P（E）=99.5%,则平均每个回答中含有的信息量为H（B）=P（b）I（bJ+P（b2）I（b2）5100（）99510001000-510002995=0.045bit/回答H(A)〉H(B)联合爛和条件爛2.9任意三个离散随机变量X、丫和Z,求证：H（XYZ）-H（XY）＜H（XZ）一H（X）。证明：方法一：要证明不等式H（X,Y,Z）—H（X,Y）
7、5H（Z,X）—H（X）成立，等价证明下式成立：H(x,y,z)-H(x,y)-H(x,z)+H(x)
