第3章信道及信道容量ppt课件.ppt

《第3章信道及信道容量ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、2021/7/30第3章信道及信道容量教学内容和要求掌握单符号离散信道及平均互信息量，理解其性质掌握m=n信道、对称信道和准对称信道的信道容量了解多符号离散信道，掌握N次扩展信道及信道容量2021/7/30掌握单符号连续信道及平均互信息量，理解其性质掌握高斯加性信道的信道容量和最大信息传输速率了解多符号连续信道及信道容量2021/7/30编码信道译码噪声信源信宿信道——传输信号的媒介，信道中通常引入噪声狭义信道——信号的传输媒介有线信道——电线、电缆、光缆无线信道——电磁空间——地波传播、天波传播、视线传播2021/7/30发转换媒介收转换调

2、制解调调制信道编码信道广义信道——包括调制解调、收发转换装置的信道调制信道——连续信道编码信道——离散信道2021/7/30一、单符号离散信道及信道容量1、单符号离散信道定义对应于单符号离散信源和单符号离散信宿的信道表示信源——离散型随机变量X信宿——离散型随机变量Y2021/7/30随机变量X的取值xi为信源发出的消息i=1,2,…,n随机变量Y的取值yj为信宿收到的消息j=1,2,…,mXP(Y/X)Y2021/7/30x1x2xny1y2ymP(y1/x1)………P(ym/xn)P(y2/x2)2021/7/302021/7/30例1例

3、22021/7/302、互信息量信源发出消息xi而信宿接收到消息yj，信宿消息yj所含信源消息xi的信息量定义信宿消息yj的概率P(yj)与信源发出消息xi而信宿接收到消息yj的转移概率P(yj/xi)之差对数的负值，用I(xi;yj)表示2021/7/30表示2021/7/30例3信宿消息0所含各信源消息的互信息量2021/7/303、平均互信息量各互信息量的数学期望，也叫交互熵，用I(X;Y)表示定义表示2021/7/304、平均互信息量的意义条件熵H(Y/X)是信道给出的平均信息量——噪声熵或信道散布度平均互信息量I(X;Y)反映信道每

4、传输一条消息所携带的平均信息量，不反映信宿收到某条消息所含信源发出某条特定消息的信息量2021/7/30条件熵H(X/Y)是用反信道矩阵形式表示的信道给出的平均信息量——损失熵或信道疑义度2021/7/30H(X/Y)H(X)H(Y/X)H(Y)I(X;Y)以信宿为参考，利用信宿的信息熵和信道的噪声熵来度量信道中传输的平均信息量以信源为参考，利用信源的信息熵和信道的损失熵来度量信道中传输的平均信息量平均互信息量I(X;Y)——信息传输率R2021/7/302021/7/305、平均互信息量的主要性质①对称性2021/7/30②非负性③极值性2

5、021/7/30X与Y相互独立时，X与Y一一对应关系时，④严格凸函数性信道固定时，I(X;Y)是信源概率分布P(X)的严格上凸函数信源固定时，I(X;Y)是信道转移概率分布P(Y/X)的严格下凸函数2021/7/30例4平均互信息量2021/7/302021/7/30平均互信息量及p-I(X;Y)和q-I(X;Y)曲线例52021/7/30信道固定时q为常数，作p-I(X;Y)曲线2021/7/3000.51I(X;Y)1-H(q)p信源固定时p为常数，作q-I(X;Y)曲线2021/7/3000.51I(X;Y)H(p)q2021/7/30

6、6、信道容量信道固定时，平均互信息量是信源概率分布P(X)的严格上凸函数，总能找到一种信源概率分布P(X)，使信道中传输的平均互信息量达到最大定义信道转移概率分布P(Y/X)不变时平均互信息量的最大值，用C表示2021/7/30表示7、m=n信道的信道容量2021/7/302021/7/302021/7/302021/7/302021/7/302021/7/302021/7/30m=n信道的信道容量2021/7/30Z信道的信道容量C及达到信道容量的信源概率分布P(X)例62021/7/30习题：(P99)3.1、3.22021/7/30二、

7、对称信道及信道容量1、对称信道矩阵中每一行都是集合　　　　　　　中各元素的不同排列——矩阵行可排列；每一列都是集合中各元素的不同排列——矩阵列可排列2021/7/30对称信道中，当m>n时，P是Q的子集；当m=n时，P=Q例1下列信道矩阵所表示的信道是否为对称信道？既行可排列，又列可排列的信道矩阵所表示的单符号离散信道定义2021/7/30行可排列列可排列2021/7/30行可排列不存在P，列不可排列×2021/7/302、对称信道的信道容量m=n=2时的对称信道——二进制对称信道BSC对称信道行可排列2021/7/30信宿等概时最大最大值

8、可达条件对称信道列可排列，不失一般性，设对称信道的信道矩阵2021/7/302021/7/302021/7/30对称信道的信道容量BSC的信道容量达到信道容量的信源