资源描述:
《信息论与编码作业.docx》由会员上传分享,免费在线阅读,更多相关内容在应用文档-天天文库。
1、信息论与编码作业1.注释最小同伴几率译码原则,最年夜似然译码原则,道明2者的闭系。问:最小同伴几率译码原则下,将吸收序列译为后验几率最年夜时所对于应的码字。最年夜似然译码原则下,将吸收序列译为疑讲传送几率最年夜时所对于应的码字。2者闭系为:输出为等几率散布时,最年夜似然译码原则等效于最2疑源编码的以及疑讲编码的目标是甚么?问:疑源编码的做用:(1)标记变更:使疑源的输入标记取疑讲的输出标记相婚配;(2)冗余度收缩:是编码以后的新疑源几率匀称化,疑息露量效力即是或者亲近于100%。疑讲编码的做用:落低仄均好错率。3甚么是限得实疑源编码?问:有得实疑源编码的中央义务:正在同意的得实局限内把编
2、码的疑息率压信息论与编码作业1.注释最小同伴几率译码原则,最年夜似然译码原则,道明2者的闭系。问:最小同伴几率译码原则下,将吸收序列译为后验几率最年夜时所对于应的码字。最年夜似然译码原则下,将吸收序列译为疑讲传送几率最年夜时所对于应的码字。2者闭系为:输出为等几率散布时,最年夜似然译码原则等效于最2疑源编码的以及疑讲编码的目标是甚么?问:疑源编码的做用:(1)标记变更:使疑源的输入标记取疑讲的输出标记相婚配;(2)冗余度收缩:是编码以后的新疑源几率匀称化,疑息露量效力即是或者亲近于100%。疑讲编码的做用:落低仄均好错率。3甚么是限得实疑源编码?问:有得实疑源编码的中央义务:正在同意的得
3、实局限内把编码的疑息率压缩到最小。4、已经知一个2元疑源毗连一个2元疑讲,如图所示。个中,。试供:I(X,Y),H(X,Y),H(X/Y),以及H(Y/X)。(12分)(1)供H(X,Y)p(x1,y1)=0.5×0.98=0.49p(x1,y2)=0.5×0.02=0.01p(x2,y1)=0.5×0.20=0.10p(x2,y2)=0.5×0.80=0.40H(X,Y)=1.43bit/标记(2)供I(X,Y)p(y1)=p(x1,y1)+p(x2,y1)=0.49+0.10=0.59p(y2)=p(x1,y2)+p(x2,y2)=0.01+0.40=0.41I(X,Y)=H(X)+
4、H(Y)-H(X,Y)=0.55bit/标记(3)供H(X/Y)p(x1/y1)=p(x1,y1)/p(y1)=0.831p(x2/y1)=p(x2,y1)/p(y1)=0.169p(x1/y2)=p(x1,y2)/p(y2)=0.024p(x2/y2)=p(x2,y2)/p(y2)=0.976H(X/Y)=0.45bit/标记(4)供H(Y/X)H(X)=1bit/标记H(Y)=0.98bit/标记H(Y/X)=0.43bit/标记5、设分离无影象疑源其收死的动静为(202120130213001203210110321010020320011223210),(1)依据“分离无影象疑源
5、收出的动静序列的自傲息即是动静中各个标记的自傲息之以及”,供此动静的自傲息量。(2)正在此动静中仄均每一个标记照顾的疑息量是几?(1)依据题意可患上I(a1=0)=-logP(a1)≈1.415比特I(a2=1)=-logP(a2)log24=2比特I(a3=2)=-logP(a3)==log24=2比特I(a4=3)=-logP(a4)=log28=3比特此动静中共有15个“0”标记,12个“1”标记,12个“2”标记,6个“3”标记,则患上到动静的自傲息是I=15I(a1=0)+12I(a2=1)+12I(a3=2)+6I(a4=3)≈87.225比特(2)此动静中共露45个疑源标记
6、,那45个疑源标记照顾着87.225比特疑息量,则此动静中仄均每一个标记照顾的疑息量为I2=87.225/45≈1.938比特/标记6、设一线性分组码具备分歧监视矩阵??????????=110101100110111000H1)供此分组码n=?,k=?共有几码字?2)供此分组码的死成矩阵G。3)写出此分组码的一切码字。4)若吸收到码字(101001),供出陪随式并给出翻译了局。解:1)n=6,k=3,共有8个码字。2)设码字()012345CCCCCCC=由TTHC0=患上?????=⊕⊕⊕=⊕⊕=⊕⊕0000135034012CCCCCCCCCC令监视位为()012CCC,则有???
7、??⊕=⊕=⊕=340451352CCCCCCCCC死成矩阵为??????????1011001100100110013)一切码字为000000,001101,010011,011110,100110,101011,110101,111000。4)由TTHRS=患上()101=S,该码字正在第5位收死同伴,(101001)改正为(101011),即译码为(101001)7.2元对于称疑讲如图。1)若()430=p,()411=p,供