欢迎来到天天文库
浏览记录
ID:46585047
大小:214.29 KB
页数:6页
时间:2019-11-25
《期末试卷_11122_信息论_A_答案》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、天津大学试卷专用纸学院专业班年级学号姓名共4页第1页A卷2011~2012学年第二学期期末考试试卷5、平均功率受限的波形信源,通过带宽有限的AWGN信道,当带宽趋于无穷大时,信道容量趋于B。《信息论与编码》(A卷共4页)(A)无穷大(B)1.44S/N0bit/s(C)S/N0bit/s(考试时间:2012年6月19日)二、填空题(共22分,共7小题,共11空,每空2分)题号一二三四五六七成绩核分人签字NN得分1、某离散i.i.d.信源X熵为H,进行N次扩展,则扩展信源X的熵H(X)=NH;对扩展信N源X进行Huffman编码,则原信源X平均码长的上界为E[l]2、+1/N。一、单项选择题(共12分,共5小题,共12空,每空1分)1、以下各组变长码中,C是非奇异码,但不是唯一可译码;A是唯一可2、离散i.i.d.信源X={x1,x2,x3,x4}有4个符号,则当其概率分布为均匀(或pi=1/4,i=1,2,3,4译码,但不是前缀码;D是前缀码。或等概率)分布时,信源熵H(X)取得最大值,最大熵为2比特/符号。x10x10x10x11x201x211x210x200⎛3/23/1⎞3、两状态一阶平稳Markov信源,转移概率矩阵为⎜⎜⎟⎟,则其稳定分布为[p(x1),x3011x311x3100x3010⎝3/13/2⎠x4013、11x4100x4111x4011p(x2)]=[1/2,1/2],其熵速率为H=0.9(或其它正确的近似结果)比特/符号。(注:(A)(B)(C)(D)log23=1.6)2、对离散i.i.d.信源X进行熵编码,以下方法中,A和B(或B和A)平均4、两个二元删除信道BEC(p)独立并行传输信息,其中p为删除概率,则总的信道容量为2(1-p)比特/符号,取得此信道容量时两输入信源满足条件均匀分布且独立。码长的上界为E[l]4、1⎞5、离散i.i.d.信源X=⎜⎜⎟⎟,通过错误概率为p=0.25的二元对称信道BSC(p)进行(A)Huffman编码(B)Shannon-Fano码(C)Shannon-Fano-Elias码⎝.025.075⎠3、离散无记忆信源X经信道1传输后得到Y,Y又经信道2传输后得到Z,则比较以下各说明:此题的失真特殊,是二元比特数传输,在汉明失真度量下,其平均失真D=0.25。的差异,所以写bit作单位不扣分。量的大小关系有:疑义度H(X5、Y)AH(X6、Z),互信息I(X;Y)BI(X;Z),信道1的信道容量C1B信道1与信道2级联信道容量C1-2。6、某信源发出消7、息的信息率为66kbits/s,希望通过信噪功率比为20dB的AWGN信道进(A)≤(B)≥行可靠传输,则信道带宽至少为10(或其它正确近似结果)kHz。(注:log25=2.3)224、时间离散连续信源X,通过无记忆平稳加性噪声信道,输出Y=X+Z,噪声Z的概率密7、方差σ=1的正态分布无记忆连续信源X~N(0,σ),在平方误差失真度量下,率失⎧1⎧1度函数为pz(z),则该信道的转移概率密度函数pY8、X(y9、x)=A或B。⎪−log2DD,≤1⎪−10、)(D)pz(y)-pz(x)真函数R(D)=⎪⎩0,D>1或⎪⎩0,D≥1。变形但相等的结果不扣分。说明:B是不对的。一个随机变量X概率密度函数p(x)里面的x仅仅是一个实值参数,表示X在x附近取值的可能性。本题随机变量有关系Y=X+Z,但它们的概率密度函数的参数之间没有这样的关系。pY11、X(y12、x)是一个关于x和y的函数,需要与一个自变量为x和y的函数相等。但因为教材上有这样的式子,老师又没有强调,所以选B本次不扣分。天津大学试卷专用纸学院专业班年级学号姓名共4页第2页A卷三、画图简答题(共20分,共5小题,每小题4分)曲线形状……………………………………………13、……..1分1、画出反映熵、联合熵、条件熵和互信息之间的相等和不等关系的韦恩(Venn)图,并范围[0,1]…………………………………………………..1分写出该图所能反映的各种相等和不等关系;坐标(0.5,1)…………………………………………………1分坐标轴标题p-H(p)………………………………………...1分⎛01⎞2、画出二元离散i.i.d.信源X=⎜⎜⎟⎟的熵H与概率p的关系曲线H(p),标出特征⎝p1−p⎠点坐标;⎛α1−α⎞3、画出转移概率矩阵⎜⎜⎟⎟的2状态一阶平稳Markov信源的状态转移图,其中⎝1−ββ⎠p(s214、s1)=1-α。4条个线及概
2、+1/N。一、单项选择题(共12分,共5小题,共12空,每空1分)1、以下各组变长码中,C是非奇异码,但不是唯一可译码;A是唯一可2、离散i.i.d.信源X={x1,x2,x3,x4}有4个符号,则当其概率分布为均匀(或pi=1/4,i=1,2,3,4译码,但不是前缀码;D是前缀码。或等概率)分布时,信源熵H(X)取得最大值,最大熵为2比特/符号。x10x10x10x11x201x211x210x200⎛3/23/1⎞3、两状态一阶平稳Markov信源,转移概率矩阵为⎜⎜⎟⎟,则其稳定分布为[p(x1),x3011x311x3100x3010⎝3/13/2⎠x401
3、11x4100x4111x4011p(x2)]=[1/2,1/2],其熵速率为H=0.9(或其它正确的近似结果)比特/符号。(注:(A)(B)(C)(D)log23=1.6)2、对离散i.i.d.信源X进行熵编码,以下方法中,A和B(或B和A)平均4、两个二元删除信道BEC(p)独立并行传输信息,其中p为删除概率,则总的信道容量为2(1-p)比特/符号,取得此信道容量时两输入信源满足条件均匀分布且独立。码长的上界为E[l]4、1⎞5、离散i.i.d.信源X=⎜⎜⎟⎟,通过错误概率为p=0.25的二元对称信道BSC(p)进行(A)Huffman编码(B)Shannon-Fano码(C)Shannon-Fano-Elias码⎝.025.075⎠3、离散无记忆信源X经信道1传输后得到Y,Y又经信道2传输后得到Z,则比较以下各说明:此题的失真特殊,是二元比特数传输,在汉明失真度量下,其平均失真D=0.25。的差异,所以写bit作单位不扣分。量的大小关系有:疑义度H(X5、Y)AH(X6、Z),互信息I(X;Y)BI(X;Z),信道1的信道容量C1B信道1与信道2级联信道容量C1-2。6、某信源发出消7、息的信息率为66kbits/s,希望通过信噪功率比为20dB的AWGN信道进(A)≤(B)≥行可靠传输,则信道带宽至少为10(或其它正确近似结果)kHz。(注:log25=2.3)224、时间离散连续信源X,通过无记忆平稳加性噪声信道,输出Y=X+Z,噪声Z的概率密7、方差σ=1的正态分布无记忆连续信源X~N(0,σ),在平方误差失真度量下,率失⎧1⎧1度函数为pz(z),则该信道的转移概率密度函数pY8、X(y9、x)=A或B。⎪−log2DD,≤1⎪−10、)(D)pz(y)-pz(x)真函数R(D)=⎪⎩0,D>1或⎪⎩0,D≥1。变形但相等的结果不扣分。说明:B是不对的。一个随机变量X概率密度函数p(x)里面的x仅仅是一个实值参数,表示X在x附近取值的可能性。本题随机变量有关系Y=X+Z,但它们的概率密度函数的参数之间没有这样的关系。pY11、X(y12、x)是一个关于x和y的函数,需要与一个自变量为x和y的函数相等。但因为教材上有这样的式子,老师又没有强调,所以选B本次不扣分。天津大学试卷专用纸学院专业班年级学号姓名共4页第2页A卷三、画图简答题(共20分,共5小题,每小题4分)曲线形状……………………………………………13、……..1分1、画出反映熵、联合熵、条件熵和互信息之间的相等和不等关系的韦恩(Venn)图,并范围[0,1]…………………………………………………..1分写出该图所能反映的各种相等和不等关系;坐标(0.5,1)…………………………………………………1分坐标轴标题p-H(p)………………………………………...1分⎛01⎞2、画出二元离散i.i.d.信源X=⎜⎜⎟⎟的熵H与概率p的关系曲线H(p),标出特征⎝p1−p⎠点坐标;⎛α1−α⎞3、画出转移概率矩阵⎜⎜⎟⎟的2状态一阶平稳Markov信源的状态转移图,其中⎝1−ββ⎠p(s214、s1)=1-α。4条个线及概
4、1⎞5、离散i.i.d.信源X=⎜⎜⎟⎟,通过错误概率为p=0.25的二元对称信道BSC(p)进行(A)Huffman编码(B)Shannon-Fano码(C)Shannon-Fano-Elias码⎝.025.075⎠3、离散无记忆信源X经信道1传输后得到Y,Y又经信道2传输后得到Z,则比较以下各说明:此题的失真特殊,是二元比特数传输,在汉明失真度量下,其平均失真D=0.25。的差异,所以写bit作单位不扣分。量的大小关系有:疑义度H(X
5、Y)AH(X
6、Z),互信息I(X;Y)BI(X;Z),信道1的信道容量C1B信道1与信道2级联信道容量C1-2。6、某信源发出消
7、息的信息率为66kbits/s,希望通过信噪功率比为20dB的AWGN信道进(A)≤(B)≥行可靠传输,则信道带宽至少为10(或其它正确近似结果)kHz。(注:log25=2.3)224、时间离散连续信源X,通过无记忆平稳加性噪声信道,输出Y=X+Z,噪声Z的概率密7、方差σ=1的正态分布无记忆连续信源X~N(0,σ),在平方误差失真度量下,率失⎧1⎧1度函数为pz(z),则该信道的转移概率密度函数pY
8、X(y
9、x)=A或B。⎪−log2DD,≤1⎪−10、)(D)pz(y)-pz(x)真函数R(D)=⎪⎩0,D>1或⎪⎩0,D≥1。变形但相等的结果不扣分。说明:B是不对的。一个随机变量X概率密度函数p(x)里面的x仅仅是一个实值参数,表示X在x附近取值的可能性。本题随机变量有关系Y=X+Z,但它们的概率密度函数的参数之间没有这样的关系。pY11、X(y12、x)是一个关于x和y的函数,需要与一个自变量为x和y的函数相等。但因为教材上有这样的式子,老师又没有强调,所以选B本次不扣分。天津大学试卷专用纸学院专业班年级学号姓名共4页第2页A卷三、画图简答题(共20分,共5小题,每小题4分)曲线形状……………………………………………13、……..1分1、画出反映熵、联合熵、条件熵和互信息之间的相等和不等关系的韦恩(Venn)图,并范围[0,1]…………………………………………………..1分写出该图所能反映的各种相等和不等关系;坐标(0.5,1)…………………………………………………1分坐标轴标题p-H(p)………………………………………...1分⎛01⎞2、画出二元离散i.i.d.信源X=⎜⎜⎟⎟的熵H与概率p的关系曲线H(p),标出特征⎝p1−p⎠点坐标;⎛α1−α⎞3、画出转移概率矩阵⎜⎜⎟⎟的2状态一阶平稳Markov信源的状态转移图,其中⎝1−ββ⎠p(s214、s1)=1-α。4条个线及概
10、)(D)pz(y)-pz(x)真函数R(D)=⎪⎩0,D>1或⎪⎩0,D≥1。变形但相等的结果不扣分。说明:B是不对的。一个随机变量X概率密度函数p(x)里面的x仅仅是一个实值参数,表示X在x附近取值的可能性。本题随机变量有关系Y=X+Z,但它们的概率密度函数的参数之间没有这样的关系。pY
11、X(y
12、x)是一个关于x和y的函数,需要与一个自变量为x和y的函数相等。但因为教材上有这样的式子,老师又没有强调,所以选B本次不扣分。天津大学试卷专用纸学院专业班年级学号姓名共4页第2页A卷三、画图简答题(共20分,共5小题,每小题4分)曲线形状……………………………………………
13、……..1分1、画出反映熵、联合熵、条件熵和互信息之间的相等和不等关系的韦恩(Venn)图,并范围[0,1]…………………………………………………..1分写出该图所能反映的各种相等和不等关系;坐标(0.5,1)…………………………………………………1分坐标轴标题p-H(p)………………………………………...1分⎛01⎞2、画出二元离散i.i.d.信源X=⎜⎜⎟⎟的熵H与概率p的关系曲线H(p),标出特征⎝p1−p⎠点坐标;⎛α1−α⎞3、画出转移概率矩阵⎜⎜⎟⎟的2状态一阶平稳Markov信源的状态转移图,其中⎝1−ββ⎠p(s2
14、s1)=1-α。4条个线及概
此文档下载收益归作者所有