信息论与编码理论--第四章

《信息论与编码理论--第四章》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、第四章信道及其容量信道及其容量4.1信道分类4.2离散无记忆信道4.3信道的组合4.4时间离散的无记忆信道4.5波形信道4.1信道分类信道分类离散信道：输入输出均为离散事件集连续信道：输入输出空间均为连续事件集半连续信道：输入和输出一个是离散的，一个是连续的时间离散的连续信道：信道输入和输出是连续的时间序列波形信道：输入和输出都是时间的实函数x(t),y(t)信道分类两端信道多端信道恒参信道：参数不随时间变化随参信道：参数随时间变化无记忆信道和有记忆信道对称信道和非对称信道4.2离散无记忆信道离散无记忆信道平稳信道例：二元对称信道p=0

2、.11-p1-ppp1100有关DMC的容量定理对DMC信道容量定理4.2.1定理4.2.1定理4.2.1定理4.2.2Q={Q0,Q1,…,QK-1}达到信道容量的充要条件对称DMC容量的计算若信道转移概率矩阵所有行矢量都是第一行的置换，称为关于输入对称。对称DMC容量的计算P的所有列都是第一列的一种置换，关于输出是对称的当输入事件等概，Qk=1/K对称DMC的容量计算输出集Y可划为若干个子集,每个子集对应的信道转移概率矩阵P中列所组成的子阵具有下列性质每一行都是第一行的置换每一列都是第一列的置换该信道称为准对称信道关于输入对称Y的划

3、分只有一个时，关于输入和输出均对称，称为对称信道对称DMC的容量计算准对称信道对称信道对称DMC容量的计算定理4.2.3实现准对称DMC信道容量的输入分布为等概分布YS：子阵中每一列都是第一列置换对每个j相同对每个k相同值与k无关对称DMC容量计算K元对称信道K=2,C=1-H(p)对称DMC容量计算准对称信道C=1-q离散无记忆模K加性噪声信道Z=X=Y={0,1,…,K-1}y=x+zmodK一般DMC的容量计算信道转移矩阵时非奇异方阵，假定所有Qk>0一般DMC的容量计算4.3信道的组合积信道C1＝maxI(X1,Y1)C2＝ma

4、xI(X2,Y2)信道1和信道2同时传递消息，输入集X=X1×X2,输出集Y=Y1×Y2,转移概率p(jj’

5、kk’)=p(j

6、k)p(j’

7、k’)C=C1+C2信道1P(j

8、k)X1Y1信道2P(j‘

9、k’)X2Y2证明和信道单位时间内可随机选用信道1和信道2中的一个，选用信道1的概率为p1，选用信道2的概率为p2，p1＋p2＝1输入空间X=X1+X2，Y=Y1+Y2，和信道推广为级联信道信道1的输出作为信道2的输入4.4时间离散的无记忆连续信道可加噪声信道P(y

10、x)=p(y-x)=p(z)可加噪声信道高斯信号和高斯噪声信道平均功率

11、受限的可加噪声信道平均功率受限的时间离散、恒参、可加高斯噪声信道容量最佳分布是均值为0，方差为S的高斯型分布平均功率受限时间离散恒参可加噪声信道容量给定信号功率，高斯信道是最差的信道平行可加高斯噪声信道X=(x1,…,xN),y=(y1,…,yN)4.5波形信道可加波形信道Y(t)=x(t)+z(t)可加波形信道可加波形信道可加波形信道Shannon公式N=2WTW趋于无穷大，单位时间的信道容量Shannon极限-1.59dB