信道与信道容量ppt课件.ppt

《信道与信道容量ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第五章：信道与信道容量本章节达到的目的了解信息论研究信道的目的、内容了解信道的基本分类并掌握信道的基本描述方法掌握信道容量/信道容量代价函数的概念，以及与互信息、信道输入概率分布、信道转移函数的关系能够计算简单信道的信道容量/信道容量代价函数（对称离散信道、无记忆加性高斯噪声信道）了解信道容量/容量代价函数在研究通信系统中的作用理解香农第一定理又称无噪信道编码的物理意义进一步从信息论的角度理解香农公式及其用途概念问题熵熵率无失真信源编码定理中的作用互信息信道容量信道编码定理中的作用回顾－互信息

2、函数的性质1互信息与信道输入概率分布的关系性质1：I(X;Y)是信道输入概率分布p(x)的上凸函数.回顾－互信息函数的性质2信息量与信道转移概率分布的关系性质2：I(X;Y)是信道转移概率分布p(y/x)的下凹函数.回顾－互信息函数的性质3信息量与信道输入符号相关性的关系性质3:信道的输入是离散无记忆的,回顾－互信息函数的性质4信息量与信道输入符号相关性的关系性质4:信道是离散无记忆的,回顾－互信息函数的性质5性质3、性质4的推论：信道的输入和信道本身都是离散无记忆的信道与信道容量概述信道的分类与描述

3、离散无记忆信道及其容量连续信道及其容量容量代价函数C(F)§5.1:概述信息论对信道研究的内容什么是信道？信道的作用研究信道的目的§5.1:概述－1信息论对信道研究的内容：信道的建模：用恰当的输入/输出两个随机过程来描述信道容量不同条件下充分利用信道容量的各种办法§5.1:概述－2什么是信道？信道是传送信息的载体——信号所通过的通道。信息是抽象的，信道则是具体的。比如：二人对话，二人间的空气就是信道；打电话，电话线就是信道；看电视，听收音机，收、发间的空间就是信道。§5.1:概述－3信道的作用在信息系

4、统中信道主要用于传输与存储信息，而在通信系统中则主要用于传输。§5.1:概述－4研究信道的目的实现信息传输的有效性和可靠性有效性：充分利用信道容量可靠性：通过信道编码降低误码率在通信系统中研究信道，主要是为了描述、度量、分析不同类型信道，计算其容量，即极限传输能力，并分析其特性。通信技术研究－－信号在信道中传输的过程所遵循的物理规律，即传输特性信息论研究－－信息的传输问题（假定传输特性已知）§5.2:信道的分类与描述信道分类信道描述§5.2:信道分类与描述－1信道分类从工程物理背景——传输媒介类型；从

5、数学描述方式——信号与干扰描述方式；从信道本身的参数类型——恒参与变参；从用户类型——单用户与多用户；§5.2:信道分类与描述－2§5.2:信道分类与描述－3§5.2:信道分类与描述－4§5.2:信道分类与描述－5§5.2:信道分类与描述－6信道划分是人为的，比如其中：c1为连续信道，调制信道；c2为离散信道，编码信道；c3为半离散、半连续信道；c4为半连续、半离散信道。§5.2:信道分类与描述－7信道描述信道可以引用三组变量来描述：信道输入概率空间：信道输出概率空间：信道概率转移矩阵：P即：{，P，

6、}，它可简化为：。§5.2:信道分类与描述－8其中：而而§5.2:信道分类与描述－9当K=1时，退化为单个消息（符号）信道；进一步当n=m=2时，退化为二进制单个消息信道。若它满足对称性，即构成最常用的二进制单消息对称信道BSC：且,,§5.3:离散无记忆信道及其信道容量离散无记忆信道及其信道容量离散无记忆信道容量的计算离散无记忆信道的信道容量定理对称的离散无记忆信道容量香农第一定理的物理意义§5.3:离散无记忆信道及其信道容量-1离散消息序列信道§5.3:离散无记忆信道及其信道容量-2离散无记忆信道

7、及其信道容量由消息序列互信息性质对离散无记忆信道，有：（性质4）则当且仅当信源(信道入)无记忆时，“等号”成立（性质3、4推论）§5.3:离散无记忆信道及其信道容量-3离散无记忆信道及其信道容量的进一步理解Cmax存在互信息性质1，上凸函数极值存在达到Cmax时的两个条件：信道输入（信源）是离散无记忆的信道输入的概率分布是使I(X,Y)达到最大的分布C的值不是由信源的p(x)决定的，而是由p决定的C是信道作为信息传输通道的性能度量只有信道输入（信源）X（x1x2…xn)满足一定条件时，才能充分利用信

8、道传输信息的能力§5.3:离散无记忆信道及其信道容量-4离散无记忆信道容量的计算思路：问题转化为：有界闭区域上求约束极值方法：1、求区域内极值2、求边界极值3、求前两者的最大值具体实现：1、简单情况下求解（如单符号信道、对称信道）2、解方程3、迭代法4、其他§5.3:离散无记忆信道及其信道容量-5离散无记忆信道的信道容量定理定理5.1：对前向转移概率矩阵为Q的离散无记忆信道，其输入字母的概率分布p*能使互信息I(p,Q)取最大值的充要条件是其中：是信源字