MCMC抽样-Metropolis算法

《MCMC抽样-Metropolis算法》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、随机模拟方法与应用StochasticSimulationMethodsandItsApplications肖柳青博士lucyxiao@sjtu.edu.cnPUB:SSMA_xiao@yeah.net肖柳青上海交通大学数学系第6章神奇的马尔科夫链蒙特卡罗方法6.1马尔科夫链6.2MCMC抽样―Metropolis算法6.3几个MCMC的例子6.4为什么Metropolis算法能有效工作？肖柳青上海交通大学数学系6.1马尔可夫链与转移概率随机试验结果{X，tT}，t参数T={1,2,},状态空间={x,x,}

2、12•定义:若随机过程{X，tT}，对任意tT和tx1,,xn+1，条件概率P{X=ix

3、X=x,X=x,,X=i}n+1n+11122nn=P{X=x

4、X=x}，n+1n+1nn则称{X，nT}为马尔可夫链，简称马氏链。n若t,t,,t表示过去，t表示现在，t表示将来，马12n-2n-1n尔可夫过程表明：在已知现在状态的条件下，将来所处的状态与过去状态无关，所谓“遗忘性”。3肖柳青上海交通大学数学系Xt()…………01234kk1t肖柳青上海交通大学数学系一些简单例子假设甲乙两人以抛硬币的方式进行

5、赌博，每次抛同一枚硬币；若出现正面，则甲付给乙一元钱，若出现反面，则乙付给甲一元钱.记Xn()为第n局之后甲赢的总数.则{()Xn，n0}是马尔可夫链.（简单传染病模型）设n个人中有部分人感染了某种传染病，假设：当一个病人接触了一个健康者时，健康者被感染的概率为p；所有的接触都是两人之间的接触；任意两个人的接触都是等可能的；在一个单位时间内只有一次接触发生.记Xn()为时刻n时患病的人数，则{()Xn，n0}是马尔科夫链.肖柳青上海交通大学数学系马尔科夫链的模型广泛应用性•例如，一个随时间变化的热力学系统；•改变

6、一个物种的DNA序列的突变，蛋白质分子一步一步折叠的序列；•一天又一天的股价波动；•一个赌徒的赌博资金等等。肖柳青上海交通大学数学系马尔可夫过程通常分为三类：(1)时间、状态都是离散的，称为马尔可夫链(2)时间连续、状态离散的，称为连续时间马尔可夫链(3)时间、状态都是连续的，称为马尔可夫过程7肖柳青上海交通大学数学系6.1.1马尔可夫链的表示方式•定义:称条件概率p(n)=P{X=j

7、X=i}为ijn+1n马尔可夫链{X，nT}在时刻n的一步转n移概率，简称转移概率，其中i,j。•定义:若对任意的i,j，

8、马尔可夫链{X,nT}的转移概率p(n)与n无关，则称nij马尔可夫链是齐次的，并记p(n)为p。ijij•齐次马尔可夫链具有平稳转移概率，状态空间={1,2,3,}，一步转移概率为8肖柳青上海交通大学数学系P一步转移概率矩阵：nnppp11121np21p22p2nPpppn12nnn•转移概率性质n(1)pij0,ij,(2)pij1j19肖柳青上海交通大学数学系例如：肖柳青上海交通大学数学系•这个拥有4个状态的马尔科夫链，其转移情况由图5.1所示，则相应的转移矩阵为

9、pp0p111214pp00P2123pp00313400pp4344•我们设初始的状态是x1，那么下一步的状态将是哪个呢？肖柳青上海交通大学数学系•生成服从均匀分布一个随机数?∼?(0,1)，看?落在[0,?]、(?,?+?]或(?+?,1111111211121]的哪个区间里？•则下一步状态就转移到它们分别对应的于状态?、?或?。124•依次类推不断地进行转移，则产生了该马尔科夫链的一条状态演化路径。肖柳青上海交通大学数学系•很显然，状态的演化是随机的!•我们以向量p=(?,?,?,?)表

10、示经过??1234步转移后状态的概率分布（注：这里用行向量），这向量被称为概率向量。•概率向量p0(1,0,0,0)就是初始时状态处于状态?的概率分布。1•根据概率公式，我们可得概率分布的转移关系式：22ppPpPpPt1tt10因此，马尔科夫链的状态演化完全由其转移概率所决定。肖柳青上海交通大学数学系6.1.2一个股市的马氏链模型•考虑一个股票市场的模型。•因为根据金融市场有效性假设：股价的下一次变化只取决于当前状态，具有马尔科夫性，所以股价的变化可以用马尔科夫链来建模描述。肖柳青上海交通大学数学系•

11、例6.2.众所周知，明天的股价相对于今天来说有“涨”、“持平”或者“跌”三种可能的状态，分别以数字1，2，3表示之；假设其状态转移的变化规律是：•如果股价今天是涨，那么明天再涨的概率是0.3，持平的概率是0.2，而跌的概率是0.5；•如果股价今天是持平，那么明天上涨的概率是0.4，再持平的概率是0.2，而跌的概率是0.4；•如果股价今天是跌，那