资源描述：
《信息论讲义_第八讲》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、信息理论基础信息理论基础（第八讲）（第八讲）授课教师：于泽电子信息工程学院201教研室2009诺贝尔物理学奖¾威拉德.博伊尔乔治.史密斯¾高锟¾20m-1%¾1000m-1%1966《光频率介质纤维表面波导》信号衰减的最大因素是吸收和散射19701km长的光纤19886000km美欧大西洋海底现在超过10亿km互联网¾1000m-95%2什么是信道？–信道是传送信息的载体，信号所通过的通道。–信息是抽象的，信道则是具体的。比如：二人对话，二人间的空气就是信道；打电话，电话线就是信道；看电视，听收音机，收、发间的空间就是信道。3研究信道的目的¾描述、度量、分析不同类型信道，计算其容
2、量，即极限传输能力，并分析其特性。¾信息传输的有效性和可靠性•有效性：充分利用信道容量•可靠性：通过信道编码降低误码率4信息论对信道研究的内容–信道的建模：用恰当的输入/输出两个随机过程来描述–信道容量–不同条件下充分利用信道容量的各种办法5核心问题I(X;Y)是信道输入概率分布p(x)的上凸函数.由于平均互信息量I(X;Y)是信源概率分布P(X)的∩型凸函数，所以对于每一个确定信道，都有一个信源分布，使得信息传输率达到最大值，我们把这个最大值称为该信道的信道容量。C==max{IXY(;)}max{HXHXY()−(
3、)}PX()PX()最佳分布信源与信道匹配6第四章离散信道•
4、内容提要4.1信道模型及其分类4.2离散无记忆信道4.3离散无记忆扩展信道4.4信道的组合4.5信道容量4.6信源和信道的匹配74.1信道的数学模型及分类一、信道的数学模型信道是信息传输的媒质或通道。其数学模型如下:干扰1.信道输入事件的概率空间为[XP]2.信道输出事件的概率空间为[YP]3.信道相当于一个数学变换，可以用条件概率描述XYP(Y
5、X)84.1信道的数学模型及分类（续）输入x∈X信道基带调制器写入头编码器调制器不研究信号在信道中传输的物理过程信道信道存储介质+噪声+噪声+介质缺陷信道基带解调器读出头解码器解调器输出y∈Y94.1信道的数学模型及分类（续）P=0.0
6、1PicturesP=0.1BinarySymmetricChannelP=0.5104.1信道的数学模型及分类（续）二、信道的分类1.输入输出事件取值集合性质离散信道：Ｘ和Ｙ都是离散事件集合，数字信道连续信道：Ｘ和Ｙ都是连续事件集合，模拟信道半连续信道：Ｘ和Ｙ一个是离散时间集合，一个是连续事件集合时间离散的连续信道：信道输入和输出是取值于连续集合的序列。波形信道：信道输入和输出是随机过程114.1信道的数学模型及分类（续）2.根据输入和输出的个数分为两端信道：输入和输出只有一个事件集合，单用户信道。多端信道：输入和输出至少有一端有两个以上的事件集合，多用户信道。中继卫星1中继卫
7、星2中继信道广播信道双向（反馈）信道多源接入信道地面站3地面站4地面站5地面站2地面站1地球124.1信道的数学模型及分类（续）3.根据信道的统计特性分为恒参信道：信道统计特性不随时间变化随参信道：信道统计特性随时间变化4.根据信道的记忆特性分为无记忆信道：信道输出集Ｙ仅与当前输入集Ｘ有关有记忆信道：信道输出集Ｙ与当前和以前若干个输入集有关。134.1信道的数学模型及分类（续）5.按输入／输出信号之间的关系是否是确定分为无干扰信道：输入/输出符号之间有确定的一一对应关系有干扰信道：输入/输出之间关系是一种统计依存的关系144.2离散无记忆信道一、离散无记忆信道XY信道p(y
8、x)
9、输入符号集合:A={a,a,……,a}12r输出符号集合:B={b,b,……,b}12s例：对于二进制信道：A={0，1}B={0，1}信道特性可用转移概率p(y
10、x)=p(yy…y
11、xx…x)12N12N描述，信道数学模型为[Xp(y
12、x)Y]154.3离散无记忆扩展信道（1）对于DMC信道，每个输出符号仅与当时的输入符号有关，与前后输入符号无关。（2）对任意n和m，iA∈，jB∈，若离散无记忆信道还满足py()=jxip==()yj=xi=nnmm则称此信道为平稳信道的或恒参信道。164.2离散无记忆信道（续）二、基本分类（1）无噪信道信道的输入和输出集存在确定的函数关系。y
13、fx=()nn⎧1yfx=()nnpyx(
14、)=⎨nn⎩0yfx≠()nn174.2离散无记忆信道（续）（2）有干扰无记忆信道•信道中存在随机干扰，输出符号与输入符号之间无确定的对应关系。•信道中任一时刻输出符号仅统计依赖于对应时刻的输入符号，而与其他时刻的输入符号及输出符号无关。其条件概率为Np(
15、)(,,,
16、,,,)yxpyy==12""yxxNNn12x∏pyx(
17、)nn=1184.2离散无记忆信道（续）（3）有干扰有记忆信道实际信道往往是有干扰有记忆信道。y≠f(x)nn
