资源描述：
《信息论与编码理论1(A卷答案)》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、2012-2013(2)信息论与编码理论1A卷答案一、单项选择题（每题3分，总计15分）1．当底为e时，平均互信息的单位为（C）。A奈特B哈特C奈特/符号D哈特/符号2．下列量当交换位置时（C）没有对称性。ABCD3．下列（A）陈述是错误的。A算术编码不需要知道信源的分布BLZ编码不需要知道信源的分布C游程编码不需要知道信源的分布DKY编码不需要知道信源的分布4．下列数组中（A）不满足两个字母上的Kraft不等式。A(1，2，1)B(2,2)C(1,2,3)D（3，3，3）5．下列译码法则中（A）一定是错误概率最小
2、的。A最大后验概率译码准则B最大似然译码准则C最小距离译码准则D最大先验概率译码准则二、填空题（每空2分，总计12分）1．若某离散信道转移概率矩阵为，则其信道容量为比特/符号。2．若一个信道的输入熵为比特/符号，输出熵为比特/符号，比特/符号，则__3.4比特/符号__，疑义度为1.2比特/符号_。3．平均互信息对信源概率分布是上凸函数，对信道的状态转移概率分布是下凸函数。4．对信源任一个元唯一可译码的平均码长必大于等于。三、计算题（73分）1）（15分）设随机变量的联合概率分布如下：01010，为模2加。分别求。
3、解:的分布率为第7页共5页01则比特/符号……………………………………………………………………..3分的分布率为01则=0.811比特/符号.…………………………………………………..……..6分01010=,==0,====0.688比特/符号.……………..10分01=,=1=,=0第7页共5页则===0.2075比特/符号.…………………..15分2）（22分）若离散无记忆信源的概率分布为①分别构造二元，三元Huffman编码（要求码长方差最小，但不需求出），Shannon编码，Fano编码，Shannon-
4、Fano-Elias编码。②并求①中二元Huffman编码的编码效率。（只列出式子即可）解:对信源按概率从大到小排序,,建立码树则有二元Huffman编码:……………….4分要进行三元Huffman编码,则需要添加一个空信源,成为,建立码树则有三元Huffman编码:,………….8分Shannon编码如下:信源码长累加概率码字200020.40140.7101140.8110050.91110050.9511110……………………………………………………………………………….12分第7页共5页Fano编码如下:信源
5、概率第1次分组第2次分组第3次分组第4次分组第5次分组码字0.4000.310100.1101100.11011100.0510111100.05111111……………………………………………………………………………….16分Shannon-Fano-Elias编码信源概率二元码字0.10.10.0550.00001000010.050.150.12560.0010000010000.050.20.17560.0010110010110.40.60.430.0110110.10.70.6550.1010011010
6、00.31.00.8530.110110…………………………………………………………………………………………………….….20分二元Huffman编码的平均码长为==2.2,…….21分编码效率为……………………………………...22分3）（14分）若二元信源，，，对1101011进行算术编码。解：,码长利用,,第7页共5页=====0.48419189453125=(0.0111101).编码为0111110.4）（22分）对输入流0100100100111分别用LZ-77，LZ-78，LZW和KY算法进行编码,
7、并对LZW编码进行解码。解：LZ-77编码：(0,0,0),(0,0,1),(2,1,0),(3,3,1),(3,3,1),(1,1,eof).………………………………………….…...4分LZ-78编码：将输入流序列分段为0，1，00，10，01，001，11，则有字典段号短语10213004105016001711码字为(0,0),(0,1),(1,0),(2,0),(1,1),(3,1),(2,1)………………………………………….…...9分LZW编码：初始字典码字12词条01新词条输出码345001100
8、0NYYY121第7页共5页67891001000110001111YYYYY354322,eof编码为初始字典和数列1，2，1，3，5，4，3，2，2,eof.…………………………………….…...13分解码：收到初始字典和数列1，2，1，3，5，4，3，2，2,eof.后重构字典和输出流如下：1)输入1，输出0，由于下一个输入为2，则存01为新词条3，2
