马尔科夫链蒙特卡罗方法研究综述_朱新玲

《马尔科夫链蒙特卡罗方法研究综述_朱新玲》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、DOI:10.13546/j.cnki.tjyjc.2009.21.010知识丛林马尔科夫链蒙特卡罗方法研究综述1，2朱新玲（1.中南财经政法大学信息学院430060;2.武汉科技大学管理学院，武汉430081）摘要：MCMC是当前广泛应用的统计计算方法，文章对MCMC方法的基本思想、基本方法进行了简单介绍，分析了该方法的应用难点，对该方法目前的主要应用领域进行了述评，最后介绍了该方法的实现软件。关键词：MCMC；Gibbs抽样；Metropolis-Hastings算法；中图分类号：O211.62文献标识码：A文章编号：10

2、02-6487（2009）21-0151-02（2）产生样本：由覬中的某一点x(0)出发，用（1）中的0引言Markov链进行抽样模拟，产生点序列：x(1)，…，x(n)；（3）蒙特卡洛积分。任一函数f(x)的期望估计为：E[f(x)]=从理论上说，贝叶斯推断和分析是容易实施的，即对于n1(t)Σf(x)。任何先验分布，只需要计算所需后验分布的性质，如后验分n-mt=m+1布的矩（如后验均值、后验方差）、后验概率密度函数等，而这些计算本质上就是计算后验分布某一函数的高维积分。但在2MCMC的几种方法实践中，鉴于未知参数的后验分

3、布多为高维、复杂的非常见分布，对这些高维积分进行计算十分困难，这一困难使得贝在采用MCMC方法时，马尔科夫链转移核的构造至关叶斯推断方法在实践中的应用受到很大的限制，在很长一段重要，不同的转移核构造方法，将产生不同的MCMC方法，时间，贝叶斯推断主要用于处理简单低维的问题，以避免计目前常用的MCMC方法主要有两种，Gibbs抽样和Metropo-算上的困难。MCMC（MarkovChainMonteCarlo）方法突破了lis-Hastings算法。这一原本极为困难的计算问题，它通过模拟的方式对高维积2.1Gibbs抽样分进行

4、计算，进而使原本异常复杂的高维积分计算问题迎刃Gibbs抽样是现实中最简单、应用最广泛的MCMC方而解，使贝叶斯方法仅适用于解决简单低维问题的状况大有法，由Geman最初命名提出，其基础思路如下：改观，为贝叶斯方法的应用开辟了新的道路。给定任意的初始向量x(0)=(x(0)，…，x(0))；1kMCMC———马尔科夫链蒙特卡罗方法产生于19世纪50从π(x

5、x(0)，…，x(0))(1)；12k中抽取样本x1年代早期，是在贝叶斯理论框架下，通过计算机进行模拟的从π(x

6、x(1)，…，x(0))(1)；21k中抽取样本x2Mon

7、teCarlo方法，该方法将Markov过程引入到MonteCarlo模…拟中，实现抽样分布随模拟的进行而改变的动态模拟，弥补了传从π(x

8、x(1)，…x(1)，x(0)，…，x(0))(1)；j1j-1j-1k中抽取样本xj统的蒙特卡罗积分只能静态模拟的缺陷，是近年来广泛应用…的统计计算方法，本文将对MCMC方法做一简单的综述。从π(xk

9、x1(1)，…，xk-1(1))中抽取样本xk(1)；至此，完成x(0)→x(1)的转移。经过n次迭代，可得后验样本1MCMC的基本思路x(1)，x(2)，…,x(n)。根据后验样本可计算

10、后验分布的各阶矩，进行相应的统计推断。MCMC方法是使用马尔科夫链的蒙特卡罗积分，其基本2.2Metropolis-Hastings算法思想是:构造一条Markov链，使其平稳分布为待估参数的后Metropolis-Hastings算法是较早出现且比较一般化的验分布，通过这条马尔科夫链产生后验分布的样本，并基于MCMC方法，最初由Metropolis等人在1953年提出，之后由马尔科夫链达到平稳分布时的样本(有效样本)进行蒙特卡罗Hastings对其加以推广，形成了Metropolis-Hastings方法。该积分。设覬为某一

11、空间，n为产生的总样本数，m为链条达到方法的基本思路是：选择一转移函数q(x；x（i-1）)和初始值x(0)，平稳时的样本数，则MCMC方法的基本思路可概括为：若第i次迭代开始时的参数值为x(i-1)，则第次迭代过程为：（1）构造Markov链。构造一条Markov链，使其收敛到（1）从q(x；x(i-1))中抽取一个备选值x'；平稳分布π(x)；基金项目：2009年湖北省人文社科基金资助项目（2009q017）；武汉科技大学校基金资助项目（250089）统计与决策2009年第21期（总第297期）151知识丛林π(x(i-1

12、)；x')4.1(i-1)精算领域（2）计算接受概率：α(x，x')=min{}；π(x(i-1))q(x'；x(i-1))随着贝叶斯思想和方法被大量引入到精算学中，MCMC（3）以概率α(x(i-1),x')，置x(i)=x'，以概率1-α(x(i-1)，x')，置x(i)