资源描述：
《信息论与编码_信道编码1》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、信道编码张亚飞信息工程教研室2011-2012学年第1学期1信道编码¢主要内容¾噪声信道的编码问题¾错误概率与译码规则¾错误概率与编码方法¾有噪信道编码定理2噪声信道的编码问题¢噪声信道的编码问题¾信道编码是以信息在信道上的正确传输为目标的编码，可分为两个层次上的问题¾如何正确接收载有信息的信号——线路编码¾如何避免少量差错信号对信息内容的影响——纠错编码¾纠错编码的理论体系属于信息论，但纠错编码的实现离不开有形载体的信号理论，因此信息的编码与信号的编码有天然的联系，却又不能等同3噪声信道的编码问题¢噪声信道的编码问题干扰源信道信道信道源字编码器码字接收矢量译码器译码结果4噪声信
2、道的编码问题¢噪声信道的编码问题¾信源编码的目的：把信源的消息数据序列编码成二进制数字构成的码序列，提高通信的有效性¾由于信源编码在构造上并未考虑抗干扰，如果把信源编码器的输出直接接入信道，由于信道中存在噪声干扰，将引起误码，降低通信的可靠性¾信道编码的目的：把信源编码输出的二进制数据编成具有检纠错能力的二进制序列，提高通信的可靠性¾信道编码研究的是消息通过信道传输时，如何选择编码方案以减少差错5噪声信道的编码问题¢信道编译码的基本思想¾信道编码的对象是信源编码输出的数字序列m，又称为消息序列，通常是由二元符号0,1构成的序列¾信道编码就是按一定的规则给消息序列m增加一些多余的码
3、元，使信息序列m变换成具有某种规律性的数字序列C，又称为码序列，码序列中信息序列的各码元和多余码元之间是相关的¾在接收端，信道译码器利用预知的编码规则来译码，或者检错（检验接收序列是否有错），或者纠错（纠正其中的差错）6噪声信道的编码问题¢信道编译码的基本思想¾信源编码的基本思想是用尽可能短的码字来表示信息¾信道编码的基本思想是增加多余码元（监督码元），根据码元之间的相关性和规律性来检测和纠正传输过程中产生的差错7错误概率和译码规则例：考虑一个二元对称信道，单个符号的错误传递概率是p=0.9，正确的传递概b率是1-p，输入符号等概分布b8错误概率和译码规则¢译码规则：收“0”译“
4、0”，收“1”译“1”，则译错的概率=0.50.90.50.9×+×=0.9译对的概率=0.1¢译码规则：收“0”译“1”，收“1”译“0”，则译错的概率=0.1译对的概率=0.9错误概率既与信道统计特性有关，也与译码规则有关选择合适的译码规则可以弥补信道的不足9错误概率和译码规则¢译码规则的定义{1设信道输入符号集为Xxi=，=,?,r},i输出符号集为Yyj=={1，,?,s},如果对j已每一个符号yF,(都有一个确定的函数y),jj使对应于唯一的一个输入符号，称这样的yxji函数为译码规则，记为F()1yxi==（,,?r，jijs=1,?,）显然，对于有个输入，个输出的.
5、rs信道而言，按上述定义得到的译码规则共有种sr种。（对每个，is有种输出）10错误概率和译码规则设有一离散无记忆信道，其信道矩阵为⎡0.50.30.2⎤⎢⎥P=0.20.30.5⎢⎥⎢⎣0.30.30.4⎥⎦⎧⎧F()yx=F()yx=1111⎪⎪译码规则AFyxBFyx:(),:()⎨⎨22=23=⎪⎪⎩⎩F()yxF=()yx=333211错误概率和译码规则由于r=3，s=3，故按此信道矩阵总共可设计出rs=27种译码规则。在所有的译码规则中，不是每一种译码规则都是合理的，因此要讨论选择译码规则的准则，这些准则总的原则是使译码平均错误概率最小。12错误概率和译码规则¢译码平
6、均错误概率Fy()=x¾若译码规则为ji，则信道输出端接收到符号yj时，一定译成xi。¾如果发送端发的就是x，这就是正确译码，因此i条件正确概率为pFy(()
7、)(
8、)y=pxyjjij¾如果发送端发的是xk,ki≠，则是错误译码，因此条件错误概率为pey(
9、)1(
10、)1[()
11、]=−=pxy−pFyyjijjj13错误概率和译码规则¢译码平均错误概率¾经过译码后，平均到一个符号所产生的错误的大小，也就是译码平均错误概率为spEE==[(
12、)peyjj]∑p()(
13、)ypeyjj=114错误概率和译码规则¢译码规则¾选择译码规则总的原则应是使译码平均错误概率最小¾由于译码平均错误
14、概率，为非负项之和，欲使译pypey()(
15、)码平均错误概率最小，那应使每一项jj最小¾由于p()yj与译码规则无关，故欲使译码平均错误概率最小，即为使pey(
16、)j最小，或者使pxy(
17、)ij为最大，于是引出最大后验概率准则。15错误概率和译码规则¢最大后验概率译码准则*选择译码函数Fy()=x，使之满足条件j**(
18、)(
19、)pxy≥≠pxy（对xx,∀i）jiji理想译码器则称为最大后验概率译码规则。¾最大后验概率译码准则是选择这样一种译码函数，对于每ypxy(
20、)一个输出符
