资源描述：
《信息论与编码（汤学明）信息论与编码——b答案3》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。
1、计算机学院2012—2013学年第一学期《信息论与编码》考试试卷得分评卷人闭卷考试吋间:题号二一.四五六七总分核对人题分10151815151215100得分专业信息安全班级学生姓名学号-、填空题(共10分，每空1分)语义信息和语用信息。信源嫡取最大值log”。下凸函数;反之，固定信(1)根据信息的性质，可以将信息分成语法信息、(2)单符号离散平稳无记忆信源呈等概率分布时,(3)固定信源，平均互信息是信道转移概率分布的—道，平均互信息是信源概率分布的上凸函数。(4)常见的多用户信道主要有多址接入信道、广播信道
2、和相关信源的多用户信道三种类型。函数，随(5)信息率失真函数/?(£>)在定义域内是允许平均失真度D的下凸着D的增加，率失真函数R(D)是严格单调递减的。得分评卷人二、简答题(共15分，每小题5分)(1)什么是噪声嫡，它与平均互信息有什么联系？噪声嫡H(Y
3、X)表示信源发出X后,对信宿收到Y存在的平均不确定度，它是信息在传输中由于噪声干扰而添加的部分无用信息；平均互信息等于信宿嫡H(Y)减去噪声嫡。(2)什么是平均符号嫡？它与极限嫡存在何种关系：多符号信源平均发出一个由7V个符号组成的符号序列，在统计意义上平
4、均每发出一个符号所提供的信息量，表示为：Wv(X)=^W(XIX2...X/v)o当N趋于无穷大时，平均符号爛的极限值就是极限嫡。(3)简述信道编码定理：对于信道容量为C的离散无记忆平稳信道，其输入序列长度为厶只要待传送的信息传输率RC时，无论怎么编码,随着厶的增大，译码出错的概率趋于1。得分评卷人三、计算题I（共18分）设随机变量X和随机变量Y的联合概率分布如右表所示:定义另一随机变量Z=Y/X，试计算：(1)信息
5、爛H(X),H(Y),H(Z)；(2)条件爛H(Y
6、X),H(XIF),H(X
7、Z),H(YXZ)；(3)平均互信息/(X;Y),/(XY;Z)9/(Z;YIX)；2410.250」520.200.40（4）如果对Z进行定长无失真信源编码，若要求编码效率大于95%,译码差错率不超过10",需要多少个信源符号一起编码?X12Px0.400-60Y24Py0.450.55Z124Pz0.200.650」5XZ12142122其它Pxz0.250.150.200.400YZ22442142其它Pyz0.250.1
8、50.200.400XYZ122144221242其它PxYZ0.250」50.200.400由此计算得：H(XY)=H(XZ)=H(YZ)=H(XYZ)=-(0.25log0.25+0.15log0.15+0.20log0.20+0.40log0.40)=1.904bit/符号解：根据已知条件可求得X,r,Z,XY,XZ,XYZ的概率分布分别如下:(1)H(X)=-(0.40log0.40+0.60log0.60)=0.971bit/符号H(Y)=-(0.45log0.45+0.55log0.55)«0.9
9、93bit/符号H(Z)=-(020log0.20+0.65log0.65+0.151og0.15)=1.279bit/符号(2)H(Y
10、X)=H(XY)—H(X)=1.904-0.971=0.933bit/符号H(ZY)=H(YZ)一H(Y)=1.904-0.993=0.911bit/符号H(XIZ)=H(XZ)一H(Z)=1.904-1.279=0.625bit/符号H(Z
11、XY)=H(XYZ)一H(XY)=1.904-1.904=0bit/符号(3)Z(X；y)=W(y)-H(YX)=0.993-0
12、.933=0.060bit/符号Z(X;Z)=H(X)-H(XIZ)=0.971-0.625=0.346bit/符号/(XK;Z)=H(Z)—H(Z
13、XY)=1.279-0=1.279bit/符号Z(Z;XY)=H(Z
14、Y)-H(Z
15、XX)=0.911-0=0.911bit/符号(4)E[I(z)]=H(Z)=1.279bit/符号E[/2(z)]=0.20(-log0.20)2+0.65(-log0.65)2+0」5(-log0」5)2=2.453bit2/符号则:a2[Z(z)]=E[/2(z)]-E2
16、[I(z)]=2.453-1.2792=0.817biF/符号由需T°95得："罟陀）冷—06731-1.8X106厶=k[/(z)]二0.817-£26~0.0673PxlO-4得分评卷人四、计算题II（共15分）设某2进制二阶马尔可夫信源，其信源符号集为{0,1},条件概率
17、也和2)为:“(0100)=0.75,“(1111)=0.35,p(0101)=0.35,0(0
18、10)=0.5试求：.3
