关于信源的若干强偏差定理及广义树上的一类极限定理

《关于信源的若干强偏差定理及广义树上的一类极限定理》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、河北工业大学硕士学位论文关于信源的若干强偏差定理及广义树上的一类极限定理姓名：赵静申请学位级别：硕士专业：应用数学指导教师：刘文2003.6.1河北工业大学硬士学位论文关于信源的若干强偏差定理及广义树上的一类极限定理摘要强偏差定理又称小偏差定理(即用不等式表示的强极限定理)是借助于似然比而引进的一种度量，进而建立的一种新型定理．刘文教授于1989年首次用分析方法得到一类随机变量序列的强偏差定理[71，后来，刘文教授把分析方法用于信息论中Shannon-McMillan定理的研究，得到了关于相对熵密度的若干强偏差定理【14】一【20]．本论

2、文继续沿用这种方法研究任意离散信源和非负连续型信源得到相关的强偏差定理，并且研究了广义树上的一类强极限定理．本论文包含四章．第一章，介绍本论文的选题背景，并对已有的工作进行扼要的介绍；第二章，通过引进的熵密度偏差的概念，给出估计m值信源的熵密度与有限非齐次马氏信源的平均随机条件熵之间偏差的上、下不等式；第三章，利用相对乘积参考分布密度的相对熵与相对熵率的概念建立任意相依连续型信源的一类强偏差定理；第四章，将随机选择系统推广在了树上并研究了树上选择子序列的一类状态和状态序偶出现频率的极限定理．关键词：强偏差定理，熵密度偏差，平均随机条件熵，

3、微分熵，相对熵率，Laplace变换，树上随机选择系统差王焦望墼董王堡堡茎塞墨墨￡苎丝兰箜=茎墼壁塞墨llSoMESTRoNGDEVIATIoNTHEoREMSFoRINFoRMATIoNSoURCESANDACLASSoFLIMITTHEoREMSoNANEXTBNDEDTR肥EThestrongdeviationtheorems，whicharealsocalledthesmalldeviationtheorems(i⋯ethestronglimittheoremsrepresentedbyinequalities)arenewtyp

4、etheoremsestabIishedbyusingthenotionofthelikelihoodratio．In1989，ProfessorLiuWenfirstappliedallanalytictechniqueinthestudyofaclassofstrongdeviationtheoremsforasequenceofrandomvariables[7]．Later．ProfessorLiuWenstudiedtheShannon-McMillantheoremininfor—mationtheorybyu8ingthea

5、nalytictechniqueandobtainedsomestrongdeviationtheoremswithrespecttorelativeentropydensityf14J一例．Inthispapersomestrongdeviationtheoremsforarbitrarydiscreteinformationsourcesandnon—negativecontinuousinformationsourcesareobtained．Intheproofwegoonapplyingtheanalytictechnique．

6、Inaddition，westudyaclassoflimittheoremsonanextendedtree．Thispapercontainsfourchapters．Inchapter1，weintroducetherelativebackgroundonthispaperandgivesomesimpleexpressionsoftheworkwhichhavebeenstudied．Inchapter2，aclassofstrongdeviationtheoremsonarbitraryinformationSOurCesare

7、establishedbyusingthenotionofrelativeentropywithrespecttoanonhomogeneousMarkovinformationeoUrceS．Inchapter3．acl蝴ofstrongdeviationtheoremsonthedifferentialentropyareestablishedbymingthenotionofrelativeentropyrateandrelativeentropywithrespecttoreferenceproductdistribution．I

8、nchapter4．weextendtherandomselectionsystemonthetreeandgiveaclassoftheoremsonfrequenciesofoccl／rr