《多符号离散信道》PPT课件

《《多符号离散信道》PPT课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第3章　信道容量3.1信道的数学模型和分类3.2单符号离散信道的信道容量3.3多符号离散信道3.3.1多符号离散信道的数学模型3.3.2离散无记忆信道和独立并联信道的信道容量3.4多用户信道3.5连续信道3.6信道编码定理1离散无记忆N次扩展信道一般离散无记忆信道的数学模型基本上与输入和输出为单符号的简单离散无记忆信道的模型相同。不同的是其输入和输出不是单个随机变量X和Y，而是随机序列其概率空间为2简单的离散无记忆信道简单的离散无记忆信道的输入和输出都是单个随机变量，其数学模型如下图：信道的输入随机变量取值于符号集X信道的输出随机变量取值于符号集Y

2、信道的传递概率为信道XY3简单的离散无记忆信道信道矩阵为：且满足这意味着矩阵中每一行之和为1。4离散无记忆信道的N次扩展信道此离散无记忆信道的N次扩展信道的数学模型如下图：N次扩展信道5N次扩展信道的信道矩阵6N次扩展信道的信道矩阵7例二元对称信道的二次扩展信道分析二元无记忆对称信道的二次扩展信道。8例二次扩展信道的传递概率9例二次扩展信道的信道矩阵从而求得二元对称信道的二次扩展信道的信道矩阵为：10例二元对称信道的二次扩展信道二元对称信道的二次扩展信道如下图所示：11N次扩展信道的平均互信息12定理一若信道的输入和输出分别是N长序列X和Y，且信道

3、是无记忆的，亦即信道传递概率为13定理二若信道的输入和输出分别是N长序列X和Y，且信源是无记忆的，亦即14N个独立信道并联根据定理一和定理二可知，当信源和信道都是无记忆的。此时，这相当于N个独立信道并联的情况。15N个独立信道并联数学模型…16N次扩展信道17N次扩展信道这样，对于离散无记忆信道的N次扩展信道，当信源也是无记忆时，则有I(X;Y)=NI(X;Y)此式表明，当信源是无记忆时，对于无记忆的N次扩展信道，其平均互信息I(X;Y)等于原来信道的平均互信息I(X;Y)的N倍。18离散无记忆N次扩展信道19N次扩展信道的信道容量CN=NC表明，

4、对于离散无记忆N次扩展信道，其信道容量等于单变量信道的信道容量的N倍。只有当输入信源是无记忆的，同时序列中每一分量Xi,i=1,2,...,N的分布各自达到最佳分布时，N次扩展信道的信道容量才能达到NC。一般情况下，消息序列在离散无记忆N次扩展信道中传输时，其平均互信息量为：I(X;Y)≤NC对于独立并联信道，有当Ｎ个输入随机变量之间统计独立，且每个输入随机变量的概率分布为达到各自信道容量的最佳分布时，等式成立。20小结首先介绍了离散无记忆信道中各种熵、信道疑义度及平均互信息量之间的相互关系。并通过例题说明和验证了这些关系；讨论了离散无记忆扩展信道

5、。分析了二元对称信道的二次扩展信道的统计特性；对于一般离散信道，关于传输N长随机序列所获得的平均互信息，给出了两个重要的定理。21信道的组合实际中我们常常会遇到两个或多个信道组合在一起使用的情况。例如：积信道：待发送的消息比较多时，可能要用两个或多个信道并行地传送，香农称这种信道为积信道；级联信道：有时消息会依次地通过几个信道串行地传送，称此为级联信道；和信道：有时将两个以上信道联合起来，这类信道香农称为和信道。在研究较复杂的信道时，往往也可以将它们分解成几个简单的、已经解决的信道的组合。22级联信道（串联信道）的模型信道I和信道II都是离散无记忆

6、信道信道I信道II23级联信道的传递概率信道I信道II24定理级联信道中的平均互信息满足以下关系25数据处理定理26数据处理定理信道I信道II27数据处理定理（续）信道I信道II28定理的物理意义数据处理定理说明，在任何信息传输系统中，最后获得的信息至多是信源所提供的信息。如果一旦在某一过程中丢失一些信息，以后的系统不管如何处理，如不触及到丢失信息过程的输入端，就不能再恢复已丢失的信息。这就是信息不增性原理，它与热熵不减原理正好对应。它深刻地反映了信息的物理意义。29例二元对称信道的串联设有二个离散二元对称信道，其串联信道如下图所示。设第一个二元对

7、称信道的输入符号的概率空间，以及两个二元对称信道的信道矩阵为二元对称信道二元对称信道30例（续）平均互信息31n个二元对称信道串联如果在两个二元对称信道串联之后再增加一个级联环节，可得依次类推，n个二元对称信道经串联后，其平均互信息量如下图所示。32n个二元对称信道串联33例一串联信道如下图所示，求总的信道矩阵。设X、Y、Z满足马氏链的性质。1/31/31/31/21/22/32/31/31/3信道I信道II34例（续）总的信道矩阵35例（续）等效信道则该级联信道可等效为如下的信道1/31/21/61/31/31/336小结实际研究信道时，往往将其

8、分解为几个简单的信道的组合；介绍了串联信道（级联信道），并给出了两个重要的定理；重点分析了数据处理定理；分析了n个二元对称