信息论-第6章有噪信道编码定理

《信息论-第6章有噪信道编码定理》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第6章有噪信道编码定理6.1错误概率和译码规则6.2错误概率与编码方法6.4有噪信道编码定理6.5联合信源信道编码定理6.1错误概率和译码规则——译码规则译码规则1:错误概率:26.1错误概率和译码规则——译码规则译码规则2:错误概率:36.1错误概率和译码规则——最大似然译码准则当输入符号等概率分布，译码规则为：46.1错误概率和译码规则——译码规则（输入非等概率）译码规则2:错误概率:当输入符号非等概率分布，不能使用最大似然译码56.2错误概率与编码方法——编码方法A信道编码译码0000100101010001111010111

2、100011101[P201]66.2错误概率与编码方法——编码方法B信道编码译码000000010100111001011101110001010010011011101101101176.2错误概率与编码方法——编码方法E信道译码000001010011100101110111000001010011100101110111000001010011100101110111编码00000101001110010111011186.2错误概率与编码方法——编码方法比较码A码B码E码字000111000011101111000001010

3、011...111消息数248信息传输率(bit/码符号)0.3330.6661错误概率310-4210-2310-296.2错误概率与编码方法——汉明距离符号序列和之间的汉明距离，D(,)和之间对应位置上不同码元的个数码C的最小距离某一码书C中，任意两个码字的汉明距离的最小值=1320120=1221310106.2错误概率与编码方法——汉明距离与编译码111000001010100011110101对于二元对称信道，译码规则：F(bi)=a*,使得D(a*,bi)最小D=1D=2116.2错误概率与编码方法——

4、汉明距离与编译码111000001010100011110101对于二元对称信道，编码规则：尽量增大最小距离dminD=1D=2126.2错误概率与编码方法——编码方法比较码A码B码E码字000111000011101111000001010011...111消息数248最小码距311信息传输率(bit/码符号)0.3330.6661错误概率310-4210-2310-2136.4有噪信道编码定理——香农第二定理对于离散无记忆信道，当信息传输率R

5、道，当满足下条件，必然存在一组码和相应的译码规则，使得译码的平均错误概率任意小。146.5联合信源信道编码定理——香农第一定理+第二定理信道信源编码信源信道编码(香农第一定理)(香农第二定理)要实现在有噪信道无失真传输，必须满足15