信息论基础——_期末试卷__a

《信息论基础——_期末试卷__a》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、系别_________________专业_________________班级__________本专学号_________________姓名________________密封线学生须将答案写在此线以下大学2008—2009学年第1学期2006级信息与计算科学专业本科卷A课程名称信息论基础课程号（？？？？？）考试形式（闭卷笔试）时间（120分钟）题目一二三四总分统分人得分得分评卷人一、判断题共10小题，满分20分.1.当随机变量和相互独立时，条件熵等于信源熵.（）2.由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集.（）3.一般情况下，用变长编码得到的平均码长

2、比定长编码大得多.（）4.只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信.（）5.各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件.（）6.连续信源和离散信源的熵都具有非负性.（）7.信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存在的不确定性就越小，获得的信息量就越小.（）8.汉明码是一种线性分组码.（）9.率失真函数的最小值是.（）10.必然事件和不可能事件的自信息量都是.（）得分评卷人二、填空题共6小题，满分20分.1、码的检、纠错能力取决于.2、信源编码的目的是；信道编码的目的是.3、把信息组原封不动地搬到

3、码字前位的码就叫做  .4、香农信息论中的三大极限定理是、、.5、设信道的输入与输出随机序列分别为和，则成立的条件 ..6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码，编码方法惟一的是.7、某二元信源，其失真矩阵，则该信源的= .得分评卷人三、本题共4小题，满分50分.1、某信源发送端有2种符号,；接收端有3种符号，转移概率矩阵为.（1）计算接收端的平均不确定度；（2）计算由于噪声产生的不确定度；（3）计算信道容量以及最佳入口分布.第3页共3页第3页共3页2、一阶马尔可夫信源的状态转移图如右图所示，信源的符号集为.（1）求信源平稳后的概率分布；（2）求此信源的熵；（3）近似地认为此信源

4、为无记忆时，符号的概率分布为平稳分布.求近似信源的熵并与进行比较.3、设码符号为，信源空间为，试构造一种三元紧致码.第3页共3页第3页共3页4、设二元线性分组码的生成矩阵为.（1）给出该码的一致校验矩阵，写出所有的陪集首和与之相对应的伴随式；（2）若接收矢量，试计算出其对应的伴随式并按照最小距离译码准则试着对其译码.得分评卷人四、本题共1小题，满分10分.试证明：若，则，并说明等式的物理意义.第3页共3页第3页共3页