资源描述：
《信息论习提答案new》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、电信吴兰华51、熵是香农信息论最基本最重要的概念。2、单符号离散信源一般用随机变量描述，而多符号离散信源一般用随机矢量描述。3、两个相互独立的随机变量的联合自信息量等于两个自信息量之和。4、离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的N倍。5、对于n元m阶马尔可夫信源，其状态空间共有nm个不同的状态。6、若一离散无记忆信源的信源熵H（X）等于4.2，对信源进行等长的无失真二进制编码，则编码长度至少为5。7、同时掷两个正常的骰子，各面呈现的概率都为1/6，则“3和6同时出现”这件事的自信息量是log218或（1+2log23）。8、一副充分洗乱的扑克牌（52张），从中任意
2、抽取1张，然后放回，若把这一过程看作离散无记忆信源，则其信源熵为。9、具有一一对应关系的无噪信道的信道容量C=log2n。10、信道编码定理是一个理想编码的存在性定理，即：信道无失真传递信息的条件是信息率小于信道容量。11、信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存在的不确定性就越大，获得的信息量就越小12、平均失真度的下限取0的条件是失真矩阵的每一行至少有一个零元素。13、率失真函数对允许的平均失真度是单调递减和连续的。14、对于离散无记忆信源的率失真函数的最大值是log2n。15、信源编码的目的是：提高通信的有效性。16、对具有8个消息的单符号离散无记忆信源
3、进行4进制哈夫曼编码时，为使平均码长最短，应增加2个概率为0的消息。17、对于香农编码、费诺编码和哈夫曼编码，编码方法惟一的是香农编码。18、游程序列的熵等于原二元序列的熵。19、n位重复码的编码效率是1/n。20、若纠错码的最小距离为dmin，则可以纠正任意小于等于t=个差错。1、单符号离散信源的自信息和信源熵都具有非负性。对2、自信息量、条件自信息量和联合自信息量之间有如下关系：对3、自信息量、条件自信息量和互信息量之间有如下关系：对4、当随即变量X和Y相互独立时，条件熵等于信源熵.对5、若对一离散信源（熵为H（X））进行二进制无失真编码，设定长码子长度为K，变长码子平均长度为，
4、一般>K。错6、信道容量C是I（X；Y）关于p（xi）的条件极大值。对7、离散无噪信道的信道容量等于log2n，其中n是信源X的消息个数。错8、率失真函数没有最大值。错9、率失真函数的最小值是0。对10、信源编码通常是通过压缩信源的冗余度来实现的。对在编m（m>2）进制的哈夫曼码时，要考虑是否需要增加概率为0的码字，以使平均码长最短。对电信吴兰华5电信吴兰华51、在游程编码过程中，“0”游程和“1”游程应分别编码，因此，它们的码字不能重复。错12、汉明码是一种线性分组码。对13、循环码也是一种线性分组码。对14、卷积码是一种特殊的线性分组码。错1、αi，βj是两个码符号{0,1}组成
5、的符号序列，求αi，βj之间的汉明距离解：D(αi，βj)=2·、已知随即变量X和Y的联合分布如下所示：YX0101/83/813/81/8试计算：H（X）、H（Y）、H（XY）、H（X/Y）、H（Y/X）、I（X；Y）1bit1bit0.54bit081bit0.81bit0.19bit3、一个消息由符号0，1，2，3组成，已知P(0)=3/8,P(1)=1/4,,P(2)=1/4,,P(3)=1/8,试求由60个符号构成的消息所含有的信息量和平均信息量。无答案4、在一个袋子里放有5个黑球、10个白球，以摸一个球为一次实验，摸出的球不再放回去。求：（1）一次实验包含的不确定度。（2
6、）第一次实验X摸出的是黑球，第二次实验Y给出的不确定度；（3）第一次实验X摸出的是白球，第二次实验Y给出的不确定度；0.92bit0.86bit0.94bit5、两个实验X和Y，X＝{x1,x2,x3},Y={y1,y2,y3},联合概率p(xiyj)=pij已经给出。（p11=7/24,p12=1/24,p13=0,p21=1/24,p22=1/4,p23=1/24,p31=0,p32=1/24,p33=7/24）（1）如果有人告诉你X和Y的实验结果，你得到的平均信息量是多少？（2）如果有人告诉你Y的实验结果，你得到的平均信息量是多少？（3）在已知Y实验结果的情况下，告诉你X的实验
7、结果，你得到的平均信息量是多少？2.3bit/符号1.58bit/符号0.72bit/符号6、黑白传真机的消息源只有黑色和白色两种，即X∈{黑，白}，一般气象图上，黑色的出现概率p(黑)＝0.3，白色出现的概率p(白)＝0.7.（1）假设黑白消息前后无关，求信源熵H(X)。（2）实际上各个元素之间关联，其转移概率为：P(白/白)＝0.9143，p(黑/白)＝0.0857，P(白/黑)＝0.2，p(黑/黑)＝0.8，求这个一阶马尔可夫信源的信源熵。并画出转移
