gamma过程与非参数bayes的分析

《gamma过程与非参数bayes的分析》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、III}1111111111IllIIIIIIIIllFIllIIllIIIIIIIY2366149NonparametricBayesianAnalysisBasedonGammaProcessesSubmittedfortheDegreeofMasterofScienceNanjing，210096，ChinaJanuary,2013东南大学学位论文独创性声明及使用授权的说明一、学位论文独创性声明本人声明所呈交的学位论文是我个人在导师指导下进行的研究工作及取得的研究成果。尽我所知，除了文中特别加以标明和致谢的地方外，论文中不包含其他

2、人已经发表或撰写过的研究成果，也不包含为获得东南大学或其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均己在论文中作了明确的说明并表示了谢意。二、关于学位论文使用授权的说明签名：刘赶日期：2翌!呈：旦7．召东南大学、中国科学技术信息研究所、国家图书馆有权保留本人所送交学位论文的复印件和电子文档，可以采用影印、缩印或其他复制手段保存论文。本人电子文档的内容和纸质论文的内容相一致。除在保密期内的保密论文外，允许论文被查阅和借阅，可以公布(包括刊登)论文的全部或部分内容。论文的公布(包括刊登)授权东南大学研究生

3、院办理。签名：立比导师签名：边塞!知期：丝!玉：≯、w摘要在通常的Bayes框架下把某个未知函数作为参数并赋予一个先验分布，就成了所谓的非参数Bayes分析。非参数Bayes分析最核心的问题是为函数型参数构造先验分布。这相当于在相应的函数空间上构造一个概率测度。众所周知，构造无穷维空间上的概率测度是一个非常困难的问题。在非参数Bayes分析领域，据我们所知，Dirichlet过程是迄今为止这方面唯一的结果。令M(8)为e上所有的概率测度组成的集合。所谓e上的Dirichlet过程D(a)实际上就是M(e)上一个特殊的概率测度，其中a是e

4、上的有限测度，它也是先验分布D(Q)中的超参数。在经典Bayes分析中，除正常先验以外还有所谓的非正常先验。非参数Bayes分析存在类似的问题。比如，在无穷个成分的混合正态模型中，权重向量是N上的概率测度。如果先验知识告诉我们权重向量的各个分量大致上与N上的某个有限测度Q成正比，我们就可以用N上的Dirichlet过程D陋)作为权重向量的正常先验。但是，如果我们没有关于权重的任何先验知识，采用D(a1作为先验分布就不合适了。为了解决这个问题，我们对N上任何盯有限测度Q，定义了％(N)上的一个概率测度G(Q)，其中M。(N)是N上所有矿有

5、限测度组成的集合。因为G(Q)与Gamma分布有密切的关系，我们就把这个测度叫做N上的Gamma过程。当n是有限测度时，G(n)经过适当的规范化就成了Dirichlet过程D(o)．因此，我们的结果推广了经典的Dirichlet过程理论，并且可以用作N上未知分布(如上面的权重向量)的非正常先验。我们把N上的Gamma过程理论用于无限个成分的混合正态模型(下文简称为无限正态混合模型)的Bayes分析。Rasmussen在2000年的一篇论文中讨论了这个问题。他的出发点是m个成分的混合正态模型，其中权重向量的先验取Dirichlet分布m(

6、Q／m，口／m，．．．，口／m)．令_m斗∞，所得到的参数更新公式就是该作者的最终结果。直观上，当m-÷oO时Dirichlet分布D(a／m，a／m，．．．，乜／仇)的极限是a取N上均匀分布时的Dirichlet过程。然而，Dirichlet过程理论要求超参数Q是有限测度，而非一般的盯有限测度(如N上的均匀分布)。我们采用Gamma过程作为权重向量的先验。这为Rasmussen的方法建立了理论基础。最后，为了验证本文的方法的有效性，我们做了两组实验。在第一组试验中，我们用无限正态混合近似已知的分布(它们分别是t分布、非中心F分布和Be

7、ta分布)；第二组实验是把无限正态混合用于基金净值数据。关键词：Gamma过程Dirichlet过程无限正态混合模型非参数Bayes分析Gibbs抽样AbstractNonparametricBayesiananalysisisageneralizationoftheusualparametricBayesiananalysis．Despiteoftheusualscalarparameters，SOmeunknownfunctionisconsideredasaparameter，andsomepriorisassignedtoit。

8、Thepriorsforfunctionalparametersareprobabilitymeasuresonthecorrespondingfunctionspaces．Asiswell-known，m