《有噪信道编码》PPT课件

《《有噪信道编码》PPT课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第六章有噪信道编码6.1译码准则与译码错误概率有噪声信道编码的主要目的是提高传输可靠性，增加抗干扰能力，因此也称为纠错编码或抗干扰编码。信源编码之后的码字序列抗干扰能力很脆弱，在信道噪声的影响下容易产生差错，为了提高通信系统的有效性和可靠性，要在信源编码器和信道之间加上一个信道编码器，6.1.1译码准则的含义一个例子影响通信系统可靠性的一个重要问题是译码方式，可以通过一个例子看一下；有一个BSC信道，如图所示。对于这样一个信道，如果采用自然的译码准则，即收0判0，收1判1；这时可以明显看到，当信源先验概率的等概时p(0

2、)=p(1)=1/2；这时收到Y判X的后验概率等于信道转移概率，系统正确的译码概率为1/4，错误译码概率为3/4。但如果采用另一种译码准则，收0判1，收1判0；则系统正确的译码概率为3/4，错误译码概率为1/4，通信的可靠性提高了。译码准则这时定义一个收到yj后判定为xi的单值函数，即：F(yj)=xi(i=1,2,…n;j=1,2,…m)；这个函数称为译码函数。它构成一个译码函数组，这些函数的值组成了译码准则。对于有n个输入，m个输出的信道来说，可以有nm个不同的译码准则。例如上面例子中有4中译码准则分别为：A:{F

3、(0)=0;F(1)=0}B:{F(0)=0;F(1)=1}C:{F(0)=1;F(1)=0}D:{F(0)=1;F(1)=1}6.1.2译码错误概率译码准则确定之后，当接收端收到一个yj后，则按译码准则译成F(yj)=xi，这时如果发送的为xi则为正确译码，如果发送的不是xi则为错误译码。所以接收到yj后正确译码的概率就是接收端收到yj后，推测发送端发出xi的后验概率：Prj=P{F(yj)=P(xi/yj)}而错误译码的概率为收到yj后，推测发出除了xi之外其它符号的概率：Pej=P{e/yj}=1-P{F(yj)

4、=xi/yj}其中e表示除了xi之外的所有其它信源符号的集合。然后对所有的yj取平均，则平均正确译码概率为：同样可以得到平均错误译码概率为：6.1.3最大后验概率准则由平均错误译码概率的表达式可以看出，错误译码概率与信道输出端随机变量Y的概率分布p(yj)有关，也与译码准则有关。当信道信道转移概率p(yj/xi)确定后，而且信源统计特性p(xi)确定之后，信道输出端的p(yj)也就确定了。因为：p(xi,yj)=p(xi)p(yj/xi);而p(yj)可以由p(xi,yj)的(i=1,2,n)求和得到。因此，在这种情况

5、下，平均错误译码概率只与译码准则有关了。通过选择译码准则可以使平均译码概率达到最小值。当式中的每一项的P{F(yj)=xi/yj}达到最大值时，平均错误译码概率就可以为最小值。设信源X的信源空间为：收到每一个yj(j=1,2,…m)后，推测发送为xi(i=1,2,…n)的后验概率共有n个，为：p(x1/yj),p(x2/yj),……p(xn/yj)。这其中必有一个为最大的，设其为：p(x*/yj)，即有：p(x*/yj)≥p(xi/yj)(对一切的i)这表明：收到符号yj后就译为输入符号x*，即译码函数选为：F(yj)

6、=a*(j==1,2,…m)这种译码准则称为“最大后验概率准则”。这个表达式平均错误译码概率的最小值，是把每一个yj对应的后验概率排除后再连续求和。从表达式中可以看到，这个最小值与信源先验概率和信道转移概率有关，特别是信道转移概率，如果除了p(yj/x*)外，其它的项多很小，错误译码概率会减小。6.1.4最大似然准则使用最大后验概率译码准则必须已知后验概率，但信道的统计特性描述总是给出信道转移概率，因此利用信道转移概率的译码准则。由概率中的贝叶斯定理可有：这样，根据最大后验概率译码准则，如果p(x*)p(yj/x*)≥

7、p(xi)p(yj/xi)(i=1,2,……n)就等于：p(x*/yj)≥p(xi/yj)则选择译码准则：F(yj)=x*(j=1,2,……n)这样，可以看到当信道输入符号集X的先验概率为等概时[p(xi)=1/n]，比较上面三个式子，最大后验概率可以用最大信道转移概率来取代。这时，在X的先验概率为等概时，如果p(yj/x*)是yj相应的n个信道转移概率p(yj/x1),p(yj/x2),……,p(yj/xn)中的最大者，则我们就将yj译成x*，这种译码方法称为“最大似然译码准则”。最大似然译码准则利用了信道转移概率，

8、而不用后验概率，将会更方便。为了减小错误译码概率，主要方法是改变信道转移概率，6.2信道编码定理[定理]：有噪声信道编码定理（Shannon第二编码定理）如一个离散有噪声信道有n个输入符号，m个输出符号，信道容量为C。当信道的熵速率R≤C时，只要码长足够长，总可以找到一种编码方法及译码准则，使信道输出端的平均错误译码概率达到任意小