信息论及编码试题集及答案(新)

信息论及编码试题集及答案(新)

ID:31477066

大小:963.00 KB

页数:31页

时间:2019-01-11

信息论及编码试题集及答案(新)_第1页
信息论及编码试题集及答案(新)_第2页
信息论及编码试题集及答案(新)_第3页
信息论及编码试题集及答案(新)_第4页
信息论及编码试题集及答案(新)_第5页
资源描述:

《信息论及编码试题集及答案(新)》由会员上传分享,免费在线阅读,更多相关内容在工程资料-天天文库

1、WORD格式整理一填空题(本题20分,每小题2分)1、平均自信息为表示信源的平均不确定度,也表示平均每个信源消息所提供的信息量。平均互信息表示从Y获得的关于每个X的平均信息量,也表示发X前后Y的平均不确定性减少的量,还表示通信前后整个系统不确定性减少的量。2、最大离散熵定理为:离散无记忆信源,等概率分布时熵最大。3、最大熵值为。4、通信系统模型如下:    5、香农公式为为保证足够大的信道容量,可采用(1)用频带换信噪比;(2)用信噪比换频带。6、只要,当N足够长时,一定存在一种无失真编码。7、当R<C时,只要码长足够长,一定能找到一种编码方法和译码规则,使译码错误概率无穷

2、小。8、在认识论层次上研究信息的时候,必须同时考虑到形式、含义和效用三个方面的因素。9、1948年,美国数学家香农发表了题为“通信的数学理论”的长篇论文,从而创立了信息论。按照信息的性质,可以把信息分成语法信息、语义信息和语用信息。按照信息的地位,可以把信息分成客观信息和主观信息。人们研究信息论的目的是为了高效、可靠、安全地交换和利用各种各样的信息。信息的可度量性是建立信息论的基础。统计度量是信息度量最常用的方法。熵是香农信息论最基本最重要的概念。事物的不确定度是用时间统计发生概率的对数来描述的。10、单符号离散信源一般用随机变量描述,而多符号离散信源一般用随机矢量描述。学

3、习参考资料分享WORD格式整理11、一个随机事件发生某一结果后所带来的信息量称为自信息量,定义为其发生概率对数的负值。12、自信息量的单位一般有比特、奈特和哈特。13、必然事件的自信息是0。14、不可能事件的自信息量是∞。15、两个相互独立的随机变量的联合自信息量等于两个自信息量之和。16、数据处理定理:当消息经过多级处理后,随着处理器数目的增多,输入消息与输出消息之间的平均互信息量趋于变小。17、离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的N倍。18、离散平稳有记忆信源的极限熵,。19、对于n元m阶马尔可夫信源,其状态空间共有nm个不同的状态。20、一维连续

4、随即变量X在[a,b]区间内均匀分布时,其信源熵为log2(b-a)。21、平均功率为P的高斯分布的连续信源,其信源熵,Hc(X)=。22、对于限峰值功率的N维连续信源,当概率密度均匀分布时连续信源熵具有最大值。23、对于限平均功率的一维连续信源,当概率密度高斯分布时,信源熵有最大值。24、对于均值为0,平均功率受限的连续信源,信源的冗余度决定于平均功率的限定值P和信源的熵功率之比。25、若一离散无记忆信源的信源熵H(X)等于2.5,对信源进行等长的无失真二进制编码,则编码长度至少为3。26、m元长度为ki,i=1,2,···n的异前置码存在的充要条件是:。27、若把掷骰子

5、的结果作为一离散信源,则其信源熵为log26。28、同时掷两个正常的骰子,各面呈现的概率都为1/6,则“3和5同时出现”这件事的自信息量是log218(1+2log23)。29、若一维随即变量X的取值区间是[0,∞],其概率密度函数为,其中:,m是X的数学期望,则X的信源熵。30、一副充分洗乱的扑克牌(52张),从中任意抽取1张,然后放回,若把这一过程看作离散无记忆信源,则其信源熵为。31、根据输入输出信号的特点,可将信道分成离散信道、连续信道、半离散或半连续信道。32、信道的输出仅与信道当前输入有关,而与过去输入无关的信道称为无记忆信道。学习参考资料分享WORD格式整理3

6、3、具有一一对应关系的无噪信道的信道容量C=log2n。34、强对称信道的信道容量C=log2n-Hni。35、对称信道的信道容量C=log2m-Hmi。36、对于离散无记忆信道和信源的N次扩展,其信道容量CN=NC。37、对于N个对立并联信道,其信道容量CN=。38、多用户信道的信道容量用多维空间的一个区域的界限来表示。39、多用户信道可以分成几种最基本的类型:多址接入信道、广播信道和相关信源信道。40、广播信道是只有一个输入端和多个输出端的信道。41、当信道的噪声对输入的干扰作用表现为噪声和输入的线性叠加时,此信道称为加性连续信道。42、高斯加性信道的信道容量C=。43

7、、信道编码定理是一个理想编码的存在性定理,即:信道无失真传递信息的条件是信息率小于信道容量。44、信道矩阵代表的信道的信道容量C=1。45、信道矩阵代表的信道的信道容量C=1。46、高斯加性噪声信道中,信道带宽3kHz,信噪比为7,则该信道的最大信息传输速率Ct=9kHz。47、对于具有归并性能的无燥信道,达到信道容量的条件是p(yj)=1/m)。48、信道矩阵代表的信道,若每分钟可以传递6*105个符号,则该信道的最大信息传输速率Ct=10kHz。49、信息率失真理论是量化、数模转换、频带压缩和数据压缩的理论基础

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。