信息论与编码第3章.doc

《信息论与编码第3章.doc》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、第三章信道与信道容量（第七讲）（2课时）主要内容：（1）信道分类与表示参数（2）离散单个符号信道及其容量重点：无干扰离散信道、对称DMC信道、准对称DMC信道、一般DMC信道。难点：无干扰离散信道、对称DMC信道、准对称DMC信道、一般DMC信道。作业：3、1，3、2。说明：信道是构成信息流通系统的重要部分，其任务是以信号形式传输和存储信息。在物理信道一定的情况下，人们总是希望传输的信息越多越好。这不仅与物理信道本身的特性有关，还与载荷信息的信号形式和信源输出信号的统计特性有关。本章主要讨论在什么条件下，通过信道的信息量

2、最大，即所谓的信道容量问题。本章概念和定理也较多，较为抽象，课堂教学时考虑多讲述一些例题，着重阐明定理和公式的物理意义，对较为繁琐的推倒过程做了部分省略。3．1信道的分类和表示参数信道中存在的干扰使输出信号与输入信号之间没有固定的函数关系，只有统计依赖的关系。因此可以通过研究分析输入输出信号的统计特性来研究信道。首先来看下一般信道的数学模型，这里我们采用了一种“黑箱”法来操作。通信系统模型，在信道编码器和信道解码器之间相隔着许多其他部件，如调制解调、放大、滤波、均衡等器件,以及各种物理信道。信道遭受各类噪声的干扰，使有用

3、信息遭受损伤。从信道编码的角度，我们对信号在信道中具体如何传输的物理过程并不感兴趣，而仅对传输的结果感兴趣：送人什么信号,得到什么信号，如何从得到的信号中恢复出送入的信号，差错概率是多少。故将中间部分全部用信道来抽象。可得到下图表示的一般信道模型。输入xX转移概率矩阵p(y/x)输出yY图3－1信道模型3．1．1信道的分类（1）根据输入输出随机信号的特点分类离散信道：输入、输出随机变量都取离散值。连续信道：输入、输出随机变量都取连续值。半离散/半连续信道：输入变量取离散值而输出变量取连续值，或反之。据输入输出随机变量

4、个数的多少分类单符号信道：输入和输出端都只用一个随机变量来表示。多符号信道：输入和输出端用随机变量序列/随机矢量来表示。根据输入输出个数分类单用户信道：只有一个输入和输出的信道。多用户信道：有多个输入和输出的信道。根据信道上有无干扰分类有干扰信道无干扰信道根据信道有无记忆特性分类有记忆信道，无记忆信道。根据输入和输出之间有无反馈有反馈信道无反馈信道。实际信道的带宽总是有限的，所以输入和输出信号总可以分解成随机序列来研究。一个实际信道可同时具有多种属性。最简单的信道是单符号离散信道。3．1．2信道参数分四部分来讲述。1．二

5、进制离散信道模型二进制离散信道模型由一个允许输入值的集合X＝{0,1}和可能输出值的集合Y={0,1}，以及一组表示输入、输出关系的条件概率（转移概率）组成。最简单的二进制离散信道是二进制对称信道（binarysymmetricchannel,BSC）。如图3－2所示。它是一种无记忆信道。转移概率为：p(Y0/X1)p(Y1/X0)pp(Y1/X1)p(Y0/X0)1p100p-pp图3－2二进制对称信道111-p2．离散无记忆信道假设信道编码器的输入是n元符号，即输入符号集由n个元素X=

6、{x1，x2，…，xn}构成，而检测器的输出是m元符号即信道输出符号集由m个元素Y＝{y1,y2，…，ym}构成，且信道和调制过程是无记忆的，那么信道模型黑箱的输入一输出特性可以用一组共nm个条件概率来描述p(Yy/Xx)p(y/x)。式中，i=1，2，…，n；j=1，2，…，m，；jiji这样的信道称为离散无记忆信道（DMC）。np(Y1y1,Y2y2,,Ynyn/X1x1,,Xnxn)p(Ykyk/Xkxk)k1p(y/x)构成的矩阵为P矩阵（信道矩阵），如下：ji如果信道转移概率矩阵的

7、每一行中只包含一个“1”，其余元素均为“0”，说明信道无干扰，叫无扰离散信道。在信道输入为xi的条件下，由于干扰的存在，信道输出不是一个固定值而是概率各异的一组值，这种信道就叫有扰离散信道。3．离散输入连续输出信道假设信道输入符号选自一个有限的、离散的输入字符集X={x1，x2，…，xn}，而信道输出未经量化（m－）∞），这时的译码器输出可以是实轴上的任意值，即y={－∞，∞}。这样的信道模型为离散时间无记忆信道。这类信道中最重要的一种是加性高斯白噪声（AWGN）信道，对它而言Y=X＋G，式2中G是一个零均值、方差为的

8、高斯随机变量，X=xi，i=1，2，…，n。当X给定后，Y2是一个均值为xi、方差为的高斯随机变量。1(yx)2/22p(y/x)eii波形信道是这样一种信道模型：其输入是模拟波形，2其输出也是模拟波形。假设输入该信道的是带限信号x（t），相应的输出是y（t），那么y（t）=x（t）＋n（t）这里n（t