信息论it_15_信道编码定理

《信息论it_15_信道编码定理》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、•信道的建模•信道的建模输入信道输出干扰、噪声•信道建模–信道可以用下图所示模型描述；输入/输出统计关系输入量X信道输出量Y（随机过程）（随机过程）•信道容量定义：平均互信息的最大值为信道容量，即CmaxI(X;Y)maxI(pi;Q)pipi表示：通过信道可以传输的最大信息量。•香农究表农研究表明：如果把要传送的消息先进行编码，并在接受端采用适当的译码，则消息有可能得到无误的传输。即：通过不可靠的信道可以实现可靠的信息传输。信道编码•信道编码信道编码•信编信源编码提高信息的传输效率。（信源码）•信道编码增加信息传输的可靠性。（信道码）信道编码•编码

2、字母序列或符号序列，甚至数列之间的映射。信道编码•编码字母序列或符号序列，甚至数列之间的映射。•编码器实现上述映射的装置。信道编码•编码字母序列或符号序列，甚至数列之间的映射。•编码器实现上述映射的装置。源字母表码字母表编码器源字母序列码字母序列信道编码•编码字母序列或符号序列，甚至数列之间的映射。•编码器实现上述映射的装置。•具体实现只能将序列分组后按一定的映射关系序贯的逐步完成。信道编码•信道码分类根据不同的分组方式及其随后的映射关系构成不同的码：–分组码–树码信道编码•信道码分类根据不同的分组方式及其随后的映射关系构成不同的码：–分组码源字母序列和

3、码字母序列均分组，映射在分组的基础上独立的进行。–树码编码器输出的码字母不仅由当前输入的源字母决定，还可能与以前的源字母和码字母有关。信道编码•信道码分类根据不同的结构可分成不同的码：–线性码–非线性码信道编码•信道码分类根据不同的结构可分成不同的码：–线性码全体码字组成线性矢量空间。–非线性码信道编码•信道码分类根据不同的抗干扰模式可分成不同的码：–抗随机差错码–抗突发差错码信道编码•信道码分类根据编译码理论所用数学工具的不同可分成不同的码：–代数码–几何码–组合码信道编码•信道码分类根据不同的功能可分成不同的码：–检错码–纠错码信道编码•信道译码准则

4、信道编码•信源码译码是编码的简单逆运算，信源码的唯一可译性保证了译码输出的正确性。信道编码•信道码对离散无记忆信道若发送码字为cmcm1,cm2,,cmN则接收矢量为yy1,y2,,yN的概率为：NPYyXcmpyncmnn1同一发送码字在接收端可能得到不同的接收矢量。信道编码•信源码译码是编码的简单逆运算，信源码的唯一可译性保证了译码输出的正确性。•信道码译码函数不是编码函数的简单逆运算。信道编码•信道译码需将整个接收矢量空间{{}Y}划分为M个互不相交的子集Y，m=1,2,…,M，然后将子集中的my译码成m。可用译码

5、函数表示为：g(y)=m，当y属于Y。m若码字c在接收端的接收矢量不落在子集mY中，则译码发生差错。m译码的差错概率取决于接收矢量空间的划分。信道编码•信道译码准则划分接收矢量空间的准则即译码准则。gycmm，当yY信道编码•信道译码准则–平均差错概率gycmPpey11cmypgyyPpeyPeyypyp1gyyy1pypgyyy信道编码•信道译码准则–平均差错概率PpeyPeyypy1pgyyypypypgyyyy

6、pcmypgyymyypcymycgym信道编码•信道译码准则–平均差错概率Ppemcyycgympycpcmmyygcmgyy当输入为均匀分布时，1PpemycMycgym11pygyMy信道编码•信道译码准则–费诺不等式HXYHPPeelogM1信道编码•信道译码准则–最小差错概率准则Pe1pypgyyypgyymaxpcymm信道编码•信道译码准则–最大后验概率准则pycmpycpcmm

7、pcymMpycpcmmm1信道编码•信道译码准则–最大似然准则gycmpygymaxpycmm信道编码•信道译码准则–最大似然准则pygymaxpycmmPpemycmcyYmPpemcPemm信道编码•信道译码准则–最大似然准则pygymaxpycmmPpempccPemmmaxmaxPPememmaxPPee信道编码•信道译码准则–最小差错概率准则与最大似然准则1pcmMpycpcmm1pcymmpycpyMpy1max

8、pcymmmaxpycmmMpy信道编码•信道译码准则–最小差错概