路径抽样法在贝叶斯模型选择中的应用.pdf

《路径抽样法在贝叶斯模型选择中的应用.pdf》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、华南理工大学学报（自然科学版）第32卷第10期JournalofSouthChinaUniversityofTechnologyVol.32No.102004年10月（NaturalScienceEdition）October2004文章编号：1000-565X（2004）10-0090-03路径抽样法在贝叶斯模型选择中的应用郝志峰王宁宁（华南理工大学数学科学学院，广东广州510640）摘要：为采用贝叶斯分析方法解决模型选择问题，针对传统的Box-Cox模型线性与非线性的选择问题，将路径抽样法应用于贝叶斯因

2、子的计算，引进一个连续的路径参数并且假定它满足一定的概率分布，利用该路径参数连接待选择的模型，使计算贝叶斯因子的工作主要集中于马尔可夫链蒙特卡洛（MCMC）抽样上，从而简化了使用贝叶斯分析方法的计算过程，实现了路径抽样法在模型选择中的具体应用.关键词：贝叶斯因子；模型选择；路径抽样；Box-Cox模型中图分类号：O212.8文献标识码：A贝叶斯分析方法在统计领域应用非常广泛，其表1贝叶斯因子判定准则核心是贝叶斯定理.贝叶斯方法指出：估计的过程不Table1CriterionforBayesianfactor

3、是对固定参数值的一种推断，而是连续的修正和改lnB12结论进我们对世界状态的主观看法.贝叶斯模型选择通（-，0）支持m1常是由计算模型的后验概率而提出的，确切的说：假［0，1）没有结论设有若干个相争执的模型｛m1，m2，⋯，mn｝，模型选［1，3）支持m2择就是通过观测的数据d，从若干个模型中挑选出最［3，）强烈支持m2符合实际的模型.设第k个模型mk的后验分布为：于是可以通过表1列出的判定准则实现贝叶斯p（d!k，k）p（!kk）p（!kd，k）=（1）模型的选择.p（dk）贝叶斯分析中涉及的运算相当繁重

4、，式（2）也式中：!k为mk的模型参数；p（d!k，k）表示模型mk的观测数据的联合概率密度（似然函数）；p（!kk）称为正则化常数（NormalizingConstant），在!k的维数比较高时，计算这个积分是一件非常复杂的事情，表示模型mk的参数的先验分布.对于模型mk，观测而且这个积分有可能没有明确的解析表达式.为了数据的后验概率密度是：［2］估计这个积分，Newton和Raftery给出了一种修p（dk）=p（d!k，k）p（!kk）d!k（2）正的调和均值估计（HarmonicMeanEstima

5、tor）.Ge-"k［3］假设考虑两个相争执的模型m1和m2，贝叶斯fand和Dey给出了另外的一种估计.Lewis和［4］因子是指：Raftery提出了Laplace-MetropolisEstimator.p（dm1）本文所使用的路径抽样法（PathSampling）是B12=（3）［5］p（dm2）Gelman和Meng根据能量方程提出的，关于这种1995年，Kass和Raftery给出了关于贝叶斯因方法的应用也可以参考文献［6］.［1］子分析判定的一个准则，见表1.1使用路径抽样法计算贝叶斯因子收稿

6、日期：2003-10-091.1基本假设和推导作者简介：郝志峰（1968-），男，教授，博士生导师，主要从假设有2个相争执的模型m0和m1，观测数据事算法分析方面的研究.E-mail：mazfhao@scut.edu.cn是d.为了估计贝叶斯因子，引入一个连续的路径参第lO期郝志峰等：路径抽样法在贝叶斯模型选择中的应用9l数tE［O，l］，根据条件概率的定义，有记p（t）为t的先验密度，则有lU（d，9，t）p（9d，t）=p（dt）p（d，9t）（4）logBlO=E9，t[p（t）]（8）参数t是为了把

7、两个模型nO和nl连接到一起的路U（d，9，t）这里，E是在联合密度p（9d，t）p（t）下9，t径，当取t=l和O时，使得有p（dl）=p（dnl），p（t）p（dO）=p（dnO）.求期望.如果log（p（dt））是关于t可微分的，而且有式（6）中p（d，9t）的形式是比较容易计算的，dlog（p（dt））只需对式（8）进行估计.可以假定t服从［O，l］的均连续，则有：dt匀分布，由梯形规则计算logBlO.特别地，可以固定dlog（p（dt））dlogp（d，9t）步长，设O=t（O）

8、2）<⋯