《信道与信道容量z》PPT课件

《《信道与信道容量z》PPT课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第五章：信道与信道容量本章节达到的目的了解信息论研究信道的目的、内容了解信道的基本分类并掌握信道的基本描述方法掌握信道容量/信道容量代价函数的概念，以及与互信息、信道输入概率分布、信道转移函数的关系能够计算简单信道的信道容量/信道容量代价函数（对称离散信道、无记忆加性高斯噪声信道）了解信道容量/容量代价函数在研究通信系统中的作用理解香农第一定理又称无噪信道编码的物理意义进一步从信息论的角度理解香农公式及其用途概念问题熵熵率无失真信源编码定理中的作用互信息信道容量信道编码定理中的作用回顾－互信息函数的性质1互信息与信道输入概率分布的关系性质1：I(X

2、;Y)是信道输入概率分布p(x)的上凸函数.信道回顾－互信息函数的性质2互信息与信道转移概率分布的关系性质2：I(X;Y)是信道转移概率分布p(y/x)的下凹函数.信道1信道2信道回顾－互信息函数的性质3互信息与信道输入符号相关性的关系性质3:信道的输入是离散无记忆的,即：则：回顾－互信息函数的性质4互信息与信道输入符号相关性的关系性质4:信道是离散无记忆的,即：则：回顾－互信息函数的性质5性质3、性质4的推论：信道的输入和信道本身都是离散无记忆的信息论对信道研究的内容信道的建模：用恰当的输入/输出两个随机过程来描述信道容量不同条件下充分利用信道容量的各种

3、办法什么是信道？信道的作用研究信道的目的§5.1:概述－1§5.1:概述－2什么是信道？信道是传送信息的载体——信号所通过的通道。信息是抽象的，信道则是具体的。比如：二人对话，二人间的空气就是信道；打电话，电话线就是信道；看电视，听收音机，收、发间的空间就是信道。§5.1:概述－3信道的作用在信息系统中信道主要用于传输与存储信息，而在通信系统中则主要用于传输。信道传输信息的速率：与物理信道本身的特性、载荷信息的信号形式和信源输出信号的统计特性有关。信道容量研究内容：在什么条件下，通过信道的信息量最大。§5.1:概述－4研究信道的目的实现信息传输的有效性和可

4、靠性有效性：充分利用信道容量，使传输的信息量尽可能大可靠性：通过信道编码降低误码率结合通信系统研究信道，主要是为了描述、度量、分析不同类型信道，计算其容量，即极限传输能力，并分析其特性。通信技术研究－－信号在信道中传输的过程所遵循的物理规律，即传输特性信息论研究－－信息的传输问题（假定传输特性已知）§5.2:信道的分类与描述信道分类信道描述§5.2:信道分类与描述－1信道分类从工程物理背景——传输媒介类型；从数学描述方式——信号与干扰描述方式；从信道本身的参数类型——恒参与变参；从用户类型——单用户与多用户；§5.2:信道分类与描述－2§5.2:信道分类与

5、描述－3§5.2:信道分类与描述－4信道划分是人为的，比如信源干扰编码译码信宿传输媒介其中：为狭义的传输型信道，研究调制解调理论或模拟通信时常引用它，为连续信道；为广义的传输型信道，研究数字通信、编码解码时常引用它，为离散信道；为半离散半连续的传输型信道§5.2:信道分类与描述－5§5.2:信道分类与描述－6信道描述信道可以引用三组变量来描述：信道输入概率空间：信道输出概率空间：信道概率转移矩阵：即：它可简化为：§5.2:信道分类与描述－7其中：而§5.2:信道分类与描述－8当K=1时，退化为单个消息（符号）信道；进一步当n=m=2时，退化为二进制单个消息

6、信道。若它满足对称性，即构成最常用的二进制单消息对称信道BSC：且：输入输出§5.3:离散无记忆信道及其信道容量离散无记忆信道及其信道容量一般离散无记忆信道容量的计算离散无记忆信道的信道容量定理对称的离散无记忆信道容量的计算香农第一定理的物理意义§5.3:离散无记忆信道及其信道容量-1离散消息序列信道信道中的记忆现象来源于物理信道中的惯性，如电缆信道中的电感电容、无线信道中电波传布的衰落现象等。§5.3:离散无记忆信道及其信道容量-2信道的任务尽可能有效且可靠地传输信源的信息离散通信信道X={x1,x2,…,xr}信息流信息流通过特定信道（信道容量和噪声特

7、性已定）传输可靠性信道噪声信道容量传输有效性§5.3:离散无记忆信道及其信道容量-3H(X)H(Y)H(Y

8、X)H(X

9、Y)I(X;Y)SourceentropyReceivedinformation噪声熵信道疑义度（损失熵）TransmittedpartofinformationH(X/Y)—信道疑义度/损失熵。Y关于X的后验不确定度。表示收到变量Y后，对随机变量X仍然存在的不确定度。代表了在信道中损失的信息。H(X)—X的先验不确定度/无条件熵。I(X;Y)—收到Y前、后关于X的不确定度减少的量。从Y获得的关于X的平均信息量。H(Y/X)—噪声熵。

10、表示发出随机变量X后，对随机变量Y仍然存在的平均不确定度。如果信道