《信息论与编码》_第18,19讲_信道编码ppt课件.ppt

《《信息论与编码》_第18,19讲_信道编码ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第六章信道编码赵永斌石家庄铁道大学信息科学与技术学院2021年9月19日第18讲2回顾信道编码:(N,L)码。L称为信息长，N称为码长。译码准则：最小后验概率译码准则最大似然译码最小距离译码Shannon信道编码定理给定容量为C的离散无记忆信道{X,p(x

2、y),Y}，若编码速率R

3、(modD)加法、(modD)乘法构成了一个代数结构，称作有限域，记作GF(D)=({0,1,…,D-1},(modD)加法,(modD)乘法)。即（1）({0,1,…,D-1},(modD)加法)构成交换群（Abel群）。（2）({1,…,D-1},(modD)乘法)构成交换群（Abel群）。（3）分配率成立：a(b+c)=ab+ac(modD)。注：GF(D)上的线性代数完全类似于实数域上的线性代数。6.2.1数学基础有限域上的代数例：取D=2，则GF(2)=({0,1},(mod2)加法,(mod2)乘法)的运算规则为：0+0=1

4、+1=0，0+1=1，0×0=0×1=0，1×1=1。方阵是否可逆？回答是肯定的，因为6.2.1数学基础该方阵的逆矩阵是什么？怎样计算？做联合可逆行变换：6.2.1数学基础例：取D=3，则GF(3)=({0,1,2},(mod3)加法,(mod3)乘法)的运算规则为：0+0=1+2=0，0+1=2+2=1，0+2=1+1=2，0×0=0×1==0×2=0，1×1=2×2=1，1×2=2。矩阵是不是满行秩的？换句话说，此矩阵的三个行向量是不是在域GF(3)上线性无关的？再换句话说，能否保证此矩阵的各行的任何非0线性组合都不是全0的4维向量

5、？再换句话说，此矩阵能否通过一些可逆行变换变成一个“阶梯阵”？6.2.1数学基础可逆行变换6.2.1数学基础例：域GF(D)上的一个L行N列的矩阵（L×N阶的矩阵）G，设它是满行秩的（当然此时有L≤N）。则变换(u1,u2,…,uN)=(x1,x2,…,xL)G一定是单射(即(x1,x2,…,xL)的不同值一定变换为(u1,u2,…,uN)的不同值)。证明设u(1)=x(1)G，u(2)=x(2)G，且x(1)≠x(2)。要证明u(1)≠u(2)。根据线性性质，u(1)-u(2)=(x(1)-x(2))G，因为(x(1)-x(2))≠全

6、0的L维向量，所以(x(1)-x(2))G是G的各行的非0线性组合。G满行秩，所以(x(1)-x(2))G≠全0的N维向量。所以u(1)≠u(2)。6.2.2线性分组码概念对随机变量序列X1X2…进行的信道编码为(N,L)码：(X1X2…XL)→(U1U2…UN)=C(X1X2…XL)。这个(N,L)码又称为(N,L)分组码。已经有结论：当R

7、2.2线性分组码定义取GF(D)上的一个L行N列的矩阵G，它是满行秩的。(N,L)分组码定义为(u1,u2,…,uN)=(x1,x2,…,xL)G其中(x1,x2,…,xL)是信息向量，(u1,u2,…,uN)是对应的码字。（1）称此码为D元(N,L)线性分组码。（2）称矩阵G为此码的生成矩阵。当D是素数时，分组码可以充分利用有限域GF(D)的代数运算，使得编码和译码更加简便。6.2.3线性分组码的代数结构性质1不同的信息向量对应不同的码字。（因为变换u=xG是单射）性质2生成矩阵G的第1行是信息向量(1,0,0,…,0)的码字；生成矩

8、阵G的第2行是信息向量(0,1,0,…,0)的码字；…生成矩阵G的第L行是信息向量(0,…,0,0,1)的码字。6.2.3线性分组码的代数结构性质3信息向量(x1,x2,…,xL)的码字是：x1数乘G的第1行，加x2数乘G的第2行，加…，加xL数乘G的第L行。性质4当u(1)和u(2)都是码字，u(1)+u(2)也是码字。（线性分组码的码字关于线性运算封闭）证明设u(1)是信息向量x(1)的码字：u(1)=x(1)G；u(2)是信息向量x(2)的码字：u(2)=x(2)G。则u(1)+u(2)=x(1)G+x(2)G=(x(1)+x(2

9、))G，即u(1)+u(2)是信息向量(x(1)+x(2))的码字。证完。性质3信息向量(x1,x2,…,xL)的码字是：x1数乘G的第1行，加x2数乘G的第2行，加…，加xL数乘G的第L行。性质4当u(1