李梅 李亦农 《信息论基础教程》 课件教案 第六章 有噪信道编码

《李梅 李亦农 《信息论基础教程》 课件教案 第六章 有噪信道编码》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第六章：有噪信道编码一、信道编码的相关概念二、有噪信道编码定理三、纠错编码第六章：有噪信道编码信道编码的目标：提高通信的可靠性。1.信道编码概述信道编码，就是按照一定的规则给信源编码后的码符号序列增加一些冗余信息，使其变成具有一定数学规律的码符号序列。信道译码，就是按与信道编码器相同的数学规律去掉接收到的码符号序列中的冗余符号。通常来说，增加的冗余符号越多，检错和纠错能力就越强。但是，增加的冗余符号越多，传输效率就越低。信道编码的相关概念信道编码器：将信源编码后的符号加上冗余符号，提高传输的可靠性。第六章：有噪信道编码1.信道编码概述（续1）信

2、道编码的相关概念第六章：有噪信道编码1.信道编码概述（续2）信道编码的相关概念图1编码信道模型信道编码器信道译码器信道第六章：有噪信道编码2.译码规则对错误概率的影响例1：二进制对称信道0101信道编码的相关概念第六章：有噪信道编码2.译码规则对错误概率的影响（续1）译码规则1：信道译码器收到符号“0”——>译为“0”信道译码器收到符号“1”——>译为“1”正确译码概率0.1，错误译码概率信道编码的相关概念0101第六章：有噪信道编码2.译码规则对错误概率的影响（续2）译码规则2：信道译码器收到符号“0”——>译为“1”信道译码器收到符号“1”

3、——>译为“0”信道编码的相关概念正确译码概率0.9，错误译码概率第六章：有噪信道编码定义6.1设信道的输入符号集为，输出符号集为。若对每一个输出符号都有一个确定的函数，使对应于唯一的一个输入符号，则称这样的一个函数为译码规则，记为3.译码规则XYx1x2xry1y2ysp(yj

4、xi)信道编码的相关概念第六章：有噪信道编码3.译码规则（续1）信道共有rs种译码规则信道编码的相关概念译码规则例：01013.译码规则（续2）第六章：有噪信道编码信道编码的相关概念第六章：有噪信道编码3.译码规则（续3）例2：设一个信道的信道矩阵为，根据此信道矩阵，

5、设计译码规则。解：译码规则A译码规则B信道编码的相关概念对于有r个输入符号，s个输出符号的信道，总共可以设计出种译码规则，到底哪一种译码规则最好？依据什么标准来选择译码规则？问题：3.译码规则（续4）第六章：有噪信道编码信道编码的相关概念4.错误译码概率设译码规则为当输入符号是xi时，译码正确当输入符号为除xi以外的(r-1)种符号时，译码错误正确译码的概率：错误译码的概率：第六章：有噪信道编码信道编码的相关概念4.错误译码概率（续1）平均正确译码概率：平均错误译码概率：第六章：有噪信道编码信道编码的相关概念5.两种重要的译码规则为提高规则通信

6、的可靠性，所采用的译码应当使平均错误译码概率最小。----最大后验概率译码规则最常用的译码规则，包括：极大似然译码规则最大后验概率译码规则第六章：有噪信道编码信道编码的相关概念5.两种重要的译码规则（续1）(1)最大后验概率译码规则已知：当求和项中的每一项都达到最小值时，就最小。要最小。要最大。第六章：有噪信道编码信道编码的相关概念定义6.2令，，而应满足条件5.两种重要的译码规则（续2）称满足上述条件的译码函数对应的译码规则为最大后验概率译码规则。第六章：有噪信道编码信道编码的相关概念5.两种重要的译码规则（续3）第六章：有噪信道编码信道编码

7、的相关概念5.两种重要的译码规则（续4）第六章：有噪信道编码信道编码的相关概念5.两种重要的译码规则（续5）问题：最大后验概率通常是未知的，使用不方便。我们能否推导出更便于使用的译码规则?第六章：有噪信道编码信道编码的相关概念5.两种重要的译码规则（续6）当输入符号等概分布时(2)极大似然译码规则第六章：有噪信道编码信道编码的相关概念第六章：有噪信道编码5.两种重要的译码规则（续7）1)当输入符号等概分布时，采用极大似然译码准则等价于最大后验概率准则。2)当输入符号不等概分布或先验概率未知时，采用极大似然译码准则不一定使最小。关于极大似然译码准

8、则：第六章：有噪信道编码信道编码的相关概念5.两种重要的译码规则（续8）当输入符号等概分布时第六章：有噪信道编码信道编码的相关概念5.两种重要的译码规则（续9）例3：设信道矩阵为，且输入符号等概分布，即，求译码规则和平均错误译码概率。第六章：有噪信道编码信道编码的相关概念5.两种重要的译码规则（续10）解：因为输入符号为等概分布，所以由最大似然译码规则可得译码规则第六章：有噪信道编码信道编码的相关概念5.两种重要的译码规则（续11）译码规则A译码规则B例6.3假设输入等概，求以下两种译码规则的平均错误译码概率。第六章：有噪信道编码信道编码的相关

9、概念5.两种重要的译码规则（续12）第六章：有噪信道编码信道编码的相关概念5.两种重要的译码规则（续13）第六章：有噪信道编码信道编码的相关概念5.两