资源描述:
《Metropolis_Hastings自适应算法及其应用》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、2008年1月系统工程理论与实践第1期文章编号:100026788(2008)0120100209Metropolis2Hastings自适应算法及其应用12陈平,徐若曦(11东南大学数学系,南京210096;21俄亥俄州立大学统计系,美国,4321021247)摘要:首先阐述Metropolis2Hastings算法实现的具体步骤,然后证明由此产生的Markov链满足细致平衡条件,从而以目标分布为不变分布.接下来给出几个计算实例,以说明提议函数及其方差的选取对采样结果的影响,并由此推出一种改进的自适应算法用以寻找合适的提议函数及其方差.最后,通过贝叶斯Logistic模型的例子说明
2、M2H方法在贝叶斯分析中的应用,同时也检验M2H自适应算法的效果.关键词:MCMC;Metropolis2Hastings算法;马尔可夫链;R软件;贝叶斯分析中图分类号:F830;TP183文献标志码:AMetropolis2hastingsadaptivealgorithmanditsapplication12CHENPing,XURuo2xi(11DepartmentofMathematics,SoutheastUniversity,Nanjing210096,China;21DepartmentofStatistics,TheOhioStateUniversity,Columb
3、us,OH4321021247)Abstract:MarkovchainMonteCarlo(MCMC)methodsisanimportantclassofcomputerbasedsimulationtechniques.ThispaperinvestigatesoneMCMCmethodknownastheMetropolis2Hastingsalgorithm.Inthispaper,wefirstintroducereaderstheproceedingsoftheMetropolis2Hastingsalgorithm.Thenweprovetheresultingcha
4、insatisfiesdetailedbalance,andhencehasthetargetdistributionastheinvariantdistribution.Next,weprovidesomeillustrativeexamplesthatshowtheinfluenceoftheproposalfunctionanditsvarianceontheresultingchain,anddevelopanadaptivemethodtofindoptimalproposalfortherandomwalksampler.Finally,wediscusstherelat
5、ionshipbetweenM2HalgorithmandBayesiananalysis.TheBayesianLogisticmodelisusedtoillustrativetheapplicationofM2HalgorithminBayesiananalysisandtotesttheproposedadaptivemethod.Keywords:MCMC;Metropolis2Hastingsalgorithm;markovchain;Rsoftware;bayesiananalysis1引言MCMC(MarkovchainMonteCarlo)方法又被称为动态Monte
6、Carlo方法,它是以动态构造Markov链为基础,通过遍历性约束来实现模拟目标分布的一类随机模拟方法.在过去的20年里,MCMC方法对统计学,尤其是贝叶斯分析的发展产生了深远的影响.本文借助于R软件对MCMC方法中的Metropolis2Hastings(M2H)算法作进一步的探讨,并由此推出一种改进的自适应M2H算法,从而可以提高算法的效率.同时还将借助于贝叶斯分析的实例阐明M2H算法与现代统计推断间的紧密联系.假设我们要计算函数F(x)关于概率密度π(x)的平均值,即E[F(x)]=∫F(x)π(x)dxS如果这个积分用分析的方法无法解决,那么随机模拟的方法就可以用来估计积分值
7、.前提是我们能够从πn1(x)中产生独立同分布的随机数.如果(X1,⋯,Xn)i.i.d.~π(x),那么依据大数定律,n∑F(Xi)依概率i收敛到∫F(x)π(x)dx.于是问题转化为如何从概率分布π(x)中产生独立同分布的随机数.虽然在很多S收稿日期:2006207213资助项目:国家自然科学基金(10671032)作者简介:陈平(1960-),男,江苏溧阳人,教授,博士,研究方向:金融与工程时间序列分析、生存分析等,E2mail:cp18@263.n