资源描述：
《数据通信与计算机网络参考.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。
1、思维世界的发展，在某种意义上说，就是对惊奇的不断摆脱。-爱因斯坦（美国）4.2.3离散信道容量的一般计算方法(1)离散信道容量的计算方法(2)用拉格朗日乘子法求信道容量(3)一般离散信道容量计算步骤(4)举例(1)离散信道容量的计算方法对一般离散信道求信道容量，就是在固定信道条件下，对所有可能的输入概率分布p(xi)，求平均互信息的极大值。由于I(X;Y)是输入概率分布p(xi)的上凸函数，所以极大值一定存在。因为I(X;Y)是n个变量{p(x1),p(x2),…,p(xn)}的多元函数，并满足，所以
2、可用拉格朗日乘子法计算这个条件极值。(2)用拉格朗日乘子法求信道容量引进一个新函数其中λ为拉格朗日乘子，解方程组可得一般信道容量C。将I(X;Y)的表达式代入(4.2.21)得整理得(2)用拉格朗日乘子法求信道容量式(4.2.24)左边为平均互信息的极大值，即(2)用拉格朗日乘子法求信道容量(2)用拉格朗日乘子法求信道容量(3)一般离散信道容量计算步骤一般离散信道容量对计算步骤总结如下：注意：在第②步信道容量C被求出后，计算并没有结束，必须解出相应的p(xi)，并确认所有的p(xi)≥0时，所求的C才
3、存在。在对I(X;Y)求偏导时，仅限制，并没有限制p(xi)≥0，所以求出的p(xi)有可能为负值，此时C就不存在，必须对p(xi)进行调整，再重新求解C。近年来人们一般采用计算机，运用迭代算法求解。(3)一般离散信道容量计算步骤(4)举例[例4.2.2]有一信道矩阵，求信道容量C。解：因为ε是条件转移概率p(y1/x2)，所以0≤ε≤1，从而有p(x1)≥0，p(x2)≥0，保证了C的存在。(4)举例4.3多符号离散信道如果在不同时刻有多个来自于同一信源的随机变量（多符号信源）通过离散信道传输，称这
4、种信道为多符号离散信道。4.3.1多符号离散信道的数学模型4.3.2离散无记忆信道和独立并联信道的信道容量4.3.1多符号离散信道的数学模型多符号离散信道定义定义：多符号离散信源X=X1X2…XN在N个不同时刻分别通过单符号离散信道{XP(Y/X)Y}，则在输出端出现相应的随机序列Y=Y1Y2…YN，这样形成一个新的信道称为多符号离散信道。由于新信道相当于单符号离散信道在N个不同时刻连续运用了N次，所以也称为单符号离散信道{XP(Y/X)Y}的N次扩展。多符号离散信道数学模型设信源矢量X的每一个随机变
5、量Xk(k=1,2,…,N)均取自并取遍于信道的输入符号集{x1,x2,…,xn}，则信源共有nN个不同的元素ai(i=1,2,…,nN)。4.3多符号离散信道该信源通过多符号离散信道{XP(Y/X)Y}后，相对于每一个ai，信道输出端输出一个相应的、由N个符号组成的输出符号序列bj。4.3.1多符号离散信道的数学模型4.3多符号离散信道多符号离散信道/单符号离散信道的N次扩展信道数学模型如图所示。它的输入输出关系可表示为信道矩阵：单符号离散信道的N次扩展信道的数学模型单符号离散信道的N次扩展信道数学
6、模型如图所示4.3.2离散无记忆信道和独立并联信道的信道容量4.3多符号离散信道单符号离散无记忆信道与其N次扩展信道传递概率之间的关系无记忆性：离散信道在时刻k的输出随机变量Yk只与时刻k的输入随机变量Xk(k=1,2,…,N)有关，与k时刻之前的输入随机变量X1X2…Xk-1和输出随机变量Y1Y2…Yk-1无关。无预感性：k时刻之前的输出随机变量序列Y1Y2…Yk-1只与k时刻之前的输入随机变量序列X1X2…Xk-1有关，与以后的第k时刻的输入随机变量Xk无关。离散无记忆信道的N次扩展信道4.3.2
7、离散无记忆信道和独立并联信道的信道容量4.3多符号离散信道离散无记忆信道的N次扩展信道的传递概率等于各单位时刻相应的单符号离散无记忆信道的传递概率的连乘。离散无记忆信道的N次扩展信道既是无记忆的，又是无预感的。即输出随机变量Yk只与对应的输入随机变量Xk有关。离散无记忆信道的N次扩展信道的数学模型可以用下图表示4.3.2离散无记忆信道和独立并联信道的信道容量4.3多符号离散信道单符号离散无记忆信道与其N次扩展信道平均互信息之间的关系离散无记忆信道N次扩展信道两端的平均互信息为I(X;Y)=H(Y)－H
8、(Y/X)平均互信息公式4.3.2离散无记忆信道和独立并联信道的信道容量4.3多符号离散信道第k个随机变量Xk单独通过单符号离散信道时的平均互信息N个输入、输出变量的平均互信息之和为上两式相减得4.3.2离散无记忆信道和独立并联信道的信道容量4.3多符号离散信道当且仅当信源X=X1X2…XN无记忆，或者说信源X是离散无记忆信源X的N次扩展信源XN=X1X2…XN时，即即输出端各Yk(k=1,2,…,N)相互独立。4.3.2离散无记忆信道和独立并联信道的信
