资源描述：
《基于贝叶斯网络的各种抽样方法比较》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。
1、基于贝叶斯网络的各种抽样方法的比较摘要:本文主要介绍了贝叶斯网的基本概念以及重要性抽样方法的基本理论和概率推理,重点介绍了两种重要的抽样方法,即逻辑抽样方法和似然加权法,并且比较了它们的优缺点关键词:贝叶斯网抽样法无偏估计1．引言英国学者T.贝叶斯1763年在《论有关机遇问题的求解》中提出一种归纳推理的理论,后被一些统计学者发展为一种系统的统计推断方法,称为贝叶斯方法．采用这种方法作统计推断所得的全部结果,构成贝叶斯统计的内容．认为贝叶斯方法是唯一合理的统计推断方法的统计学者,组成数理统计学中的贝叶斯学派,其形成可
2、追溯到20世纪30年代．到50～60年代,已发展为一个有影响的学派．Zhang和Poole首先提出了变量消元法,其原理自关于不定序动态规划的研究（BerteleandBrioschi,1972）．相近的工作包括D`Ambrosio（1991）、Shachter（1994）、Shenoy（1992）等人的研究．近期关于变量消元法的研究可参见有关文献【1】由于变量消元法不考虑步骤共享,故引进了团树传播法,如Hugin方法．在实际应用中,网络节点往往是众多的,精确推理算法是不适用的,因而近似推理有了进一步的发展.重要性抽
3、样法（Rubinstein,1981）是蒙特尔洛积分中降低方差的一种手段,Henrion（1988）提出了逻辑抽样,它是最简单也是最先被用于贝叶斯网近似推理的重要性抽样算法.Fung和Chang（1989）、Shachter和Peot（1989）同时提出了似然加权算法.Shachter和Peot（1989）还提出了自重要性抽样和启发式重要性抽样算法.Fung和Favero（1994）提出了逆序抽样（backwardsam-pling）,它也是重要性抽样的一个特例.Cheng和Druzdzel（2000）提出了自适应
4、重要性抽样算法,同时也给出了重要性抽样算法的通用框架,这就是各种抽样方法的发展状况.本文就近似推理阐述了两种重要的抽样方法即逻辑抽样方法和似然加权法,并比较了它们的优缺点．2.基本概念2.1贝叶斯网络的基本概念贝叶斯网络是一种概率网络,用来表示变量之间的依赖关系,是带有概率分布标注的有向无环图,能够图形化地表示一组变量间的联合概率分布函数．贝叶斯网络模型结构由随机变量（可以是离散或连续）集组成的网络节点,具有因果关系的网络节点对的有向边集合和用条件概率分布表示节点之间的影响等组成．其中节点表示了随机变量,是对过程、
5、事件、状态等实体的某些特征的描述;边则表示变量间的概率依赖关系．起因的假设和结果的数据均用节点表示,各变量之间的因果关系由节点之间的有向边表示,一个变量影响到另一个变量的程度用数字编码形式描述．因此贝叶斯网络可以将现实世界的各种状态或变量画成各种比例,进行建模．2.2重要性抽样法基本理论设是一组变量在其定义域上的可积函数．考虑积分7(2.2.1)为了近似计算这一积分,重要性抽样方法将上式改写为如下形式:(2.2.2)这里,被看成是一组随机变量,是的一个联合分布,称为重要性分布,它满足以下条件:对的任意取值,如果,那
6、么.接下来,重要性抽样方法从独立地抽取个样本并基于这些样本来对积分进行估计:（2.2.3）可以证明,是的一个无偏估计,且根据强大数定律,当样本量趋于无穷时,几乎收敛于.重要性抽样法的性能主要从两个方面来衡量:一个是算法复杂度,另一个是近似解的精度．因此,人们用计算所需的时间和的方差之积来度量重要性抽样法的效率:越小,算法的效率越高,收敛速度也就越快,从而获得高精度近似所需的样本量不大．这里,方差可用下式计算:（2.2.4）重要性分布的选择是提高算法效率的关键．由于重要性分布的选择对时间复杂度的影响不大,因此为了提高
7、算法的效率,应该选用使得方差尽可能小的重要性分布．根据式(2.2.4),若被积函数,则最优重要性分布为.此时,样本被集中在值较大的＂重要＂区域．由于本身是未知的,在实际中很少能够从抽样,只能寻找与尽量接近的分布．重要性分布与最优分布越接近,方差就越小．2.3重要性抽样法的概率推理考虑一个贝叶斯网,用记其中所有变量的集合,记所表示的联合概率分布．设观测到证据.下面将讨论如何近似计算一组查询变量取某值的后验概率.设是一些变量的集合,是的一个子集合,,并设为的一个取值．定义函数（2.3.1）按条件概率的定义,有（2.3.
8、2）根据式（2.3.1）和可以分别表示成如下形式:7（2.3.3）（2.3.4）于是可以利用重要性抽样法来对它们进行近似．对于近似的一般性质,有一点需要注意．根据以上讨论,利用重要性抽样法获得的对和的估计是无偏的．3.重要性抽样方法3.1逻辑抽样法要用重要性抽样法解决式（2.3.3）和式（2.3.4）的问题,首先需要选择一个重要性分布．一个很自然的想法就是选
