资源描述：
《信息论与编码理论1B卷答案.doc》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。
1、广州大学2015-2016学年第1学期考试B卷答案课程信息论与编码理论1考试形式（闭卷，考试）学院系专业班级学号姓名 __题次一二三四五六七八九十总分评卷人分数151471100评分一、单项选择题（每题3分，总计15分）1．当底为2时，自信息的单位为（B）。A奈特B比特C奈特/符号D比特/符号2．下列量当交换位置时（C）没有对称性。ABCD3下列性质不是离散集的熵性质的是（C）A对称性B非负性C不确定性D可加性4．下列数组中（A）不满足两个字母上的Kraft不等式。A(1，1，1)B(2,2)C(1,2,3)D（3，3，3）
2、5．异字头码中平均码长最短的称为最佳码，下列编码方法不能得到最佳码的是（D）AShannon-Fano编码BHuffman编码C算术编码DLZ编码二、填空题（每空2分，总计14分）1．若二元离散无记忆中，，则当给出比特的信源序列，其中有个，则其自信息为比特，整个序列的熵为比特/符号.2．若一个信道的输入熵为比特/符号，输出熵为比特/符号，比特/符号，则2.9比特/符号，散布度为0.8比特/符号。3．平均互信息对信源概率分布是上凸函数，对信道的状态转移概率分布是下凸函数。4．在二元LZ编码中，若信源有个，某段信源序列共有个字典，则码
3、长。三、计算题（71分）1）（15分）设随机变量的联合概率分布如下：01010。分别求。解:的分布率为01则比特/符号.……………………………………………………………………..3分的分布率为01则比特/符号.…………………………………………………..……..6分01010=,==0,===比特/符号.……………..10分01=1,=0=0,=1则=0比特/符号..…………………………………………………………………………..15分2）（22分）若离散无记忆信源的概率分布为①分别构造二元，三元Huffman编码（要求码长方差最小，但不
4、需求出），Shannon编码，Fano编码，Shannon-Fano-Elias编码。②并求①中二元Huffman编码的编码效率。（只列出式子即可）解:对信源按概率从大到小排序,,建立码树则有二元Huffman编码:………………………………………………...…….4分要进行三元Huffman编码,则需要添加一个空信源,成为,建立码树则有三元Huffman编码:……………………….8分Shannon编码如下:信源码长累加概率码字200020.40130.710140.91110…………………………………………………………………………
5、…….12分①Fano编码如下:信源概率第1次分组第2次分组第3次分组码字0.4000.310100.1101100.11111……………………………………………………………………………….16分②Shannon-Fano-Elias编码信源概率二元码字0.10.10.0550.00001000010.20.30.240.00010000010.30.60.4530.0110110.410.830.110110………………………………………………………………………………………….….20分③二元Huffman编码的平均码长为==1
6、.9…….21分④编码效率为…………………………...22分3）（12分）若二元信源，，，对10011进行算术编码。解：,码长……….……………………...4分利用,,…………………………..…...6分……………………………….…...8分=…………………………….……….....10分=0.541015625=(0.100010).编码为100010.……….……….….....12分4）（22分）对输入流1101110分别用LZ-77，LZ-78，LZW和KY算法进行编码,并对LZW编码进行解码。解：LZ-77编码：(0,0
7、,1),(1,1,0),(2,1,0),(3,2,1),(4,1,eof).………………………………………….…...4分LZ-78编码：将输入流序列分段为1，10，11，10，则有字典段号短语11210311410码字为(0,1),(1,0),(1,1),(1,0)………………………………………….…...9分LZW编码：初始字典码字12词条01新词条输出码3456111100111110NYYYYN22134,eof编码为初始字典和数列2，2，1，3，4,eof.…………………………………….…...13分解码：收到初始字典和
8、数列2，2，1，3，4,eof后重构字典和输出流如下：1)输入2，输出1，由于下一个输入为2，则存11为新词条3，2)输入2，输出1，由于下一个输入为1，则存10为新词条4，3)输入1，输出0，由于下一个输入为3，则存01为新词条5，1)输入3，输
