资源描述：
《单符号离散信道的信道容量》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、第3章信道容量2021/7/251本章主要内容3.1信道的数学模型与分类3.2单符号离散信道的信道容量3.3多符号离散信道的信道容量3.4连续信道及其容量3.6信道编码定理2021/7/2523.2单符号离散信道单符号离散信道的信道模型设输入端信源符号集合为：输出端信宿符号集合为：信道转移概率为：令信道模型如图所示Def：输入输出都取值于离散符号集合，且都用一个符号表示一条消息的信道。单符号离散信道的数学模型2021/7/253单符号离散信道的信道统计特性用转移概率矩阵表示：信道容量：传输信息不失真的条件下的最大平均信息量或最大信
2、息速率Rmax信道上传输的最大平均信息量：C=I(X;Y)maxbit/符号信道上传输的最大信息速率：Rmax信道统计特性2021/7/254信道容量的计算其中：t:传输一个符号需要的时间所以当信道特性p(yj/xi)确定以后，信道的容量只和信源概率分布p(xi)有关。bit/符号s/符号2021/7/255几种特殊离散信道的容量具有一一对应关系的无噪信道：输出集合和输入集合的每个符号一一对应（n=m），见图3.3(a)。信道转移概率矩阵为单位阵。因为输入输出一一对应：所以此时信道容量：C=I(X;Y)max=H(X)max=H(
3、Y)max=log2nbit/符号1112021/7/256几种特殊离散信道的容量具有扩展性能的无噪信道：一对多（n＜m）见图3.3(b),给定一个输出，必能找到对应的唯一输入，即信道疑义度H(X/Y)=0。信道转移概率矩阵：每列有且只有一个非零元素。C=I(X;Y)max=[H(X)-H(X/Y)]max由于H(X/Y)=0=H(X)max所以=H(X)max=log2nbit/符号时间n:行数2021/7/257几种特殊离散信道的容量具有归并性能的无噪信道：多对一（n＞m），见图3.3(c)，给定一个输入，必能找到对应的唯一输
4、出，即噪声熵H(Y/X)=0。信道转移概率矩阵：每行有且只有一个非零元素。C=I(X;Y)max=[H(Y)-H(Y/X)]max由于H(Y/X)=0所以=H(Y)max=log2mbit/符号时间m:列数2021/7/258对称离散无记忆信道的信道容量对称离散无记忆信道DMC（DiscreteMemorylessChannel）：矩阵的每一行都是同一集合Q=(q1,q2,…,qm)中各元素的不同排列，每一列都是关于同一集合P=(p1,p2,…,pn)中各元素的不同排列，则称为对称信道。不是对称信道每行的元素都取自同一集合Q={1
5、/6,1/6,1/3,1/3}每列的元素也都取自同一集合P={1/6,1/3}对称信道对称信道2021/7/259定理：对于对称DMC，有H(Y
6、X)=Hmi证明：信道转移概率矩阵任意一行的熵对称：则H（Y/X）=Hmi=H(1/2,1/3,1/6)2021/7/2510对称DMC信道的容量公式：C=I(X;Y)max=[H(Y)-H(Y
7、X)]max=[H(Y)-Hmi]max=H(Y)max-H(q1,q2,…,qm)设信源为单符号消息，符号数为n,等概分布，通过一个对称的DMC信道，则信宿也等概分布（设符号数为m）,此时信道
8、容量为：对称DMC信道的信道容量2021/7/2511证明：若信源等概分布时，若通过对称信道，则得到的信宿也等概分布：2021/7/2512例：求P1的信道容量。解：对称DMC,所以2021/7/2513强对称离散信道的信道容量强对称离散信道def:易看出，该信道是一个特殊的对称信道。求该信道的信道容量。易知转移概率矩阵为：…2021/7/2514解：因为是对称DMC信道，所以若取n=2,则则均匀信道变成BSC信道，则其容量为2021/7/2515准对称DMC的信道容量准对称DMC（关于行对称或者关于列对称）二元对称删除信道或分析
9、信道转移矩阵p，两行三列，说明信道有两个输入消息(设为)，三个输出消息(设为)2021/7/2516准对称DMC的信道容量例：已知，求此二元对称删除矩阵的信道容量C。解需求H(Y)Y的概率分布2021/7/2517说明准对称信道达到容量（极值）时，信源等概分布2021/7/2518令上题，则，叫做二元纯删除信道，信道转移分布图为：说明：输入符号都以ε1的错误概率传至收端，错判为符号E2021/7/2519准对称DMC信道容量的求解步骤归纳求解准对称DMC信道容量的步骤：1、将转移概率矩阵划分成若干个互不相交的子集2、令信源等概分布
10、3、其中:n为信源符号个数，即信道转移矩阵的行数Hmi：转移概率矩阵第i行的熵Nk：第k个子矩阵行元素之和Mk：第k个子矩阵列元素之和注：若准对称信道是关于列对称，可以先进行转置，使其变成关于行对称2021/7/2520例：求转移概率为图示P的信道
