基于贝叶斯网络的马尔科夫毯预测学习

《基于贝叶斯网络的马尔科夫毯预测学习》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、维普资讯http://www.cqvip.com第17卷第1期模式识别与人工智能Vd．17No．12004年3月PR&AIMarch20()4基于贝叶斯网络的马尔科夫毯预测学习*王双成苑森淼(吉林大学计算机科学与技术学院长春130025)王辉(东北师范大学计算机系长春130024)摘要研究变量之间的预测能力在许多领域都有重要意义，通过这种研究，能够揭示变量之间的制约机制，贝叶斯网络是研究变量之间预测能力的有力工具．本文使用依赖分析方法建立基于贝叶斯网络的马尔科夫毯预测，其核心问题是贝叶斯网络结构学习．目前，基于依赖分析的贝叶斯网络

2、结构学习方法主要存在三个问题：(1)需要进行大量的高维条件概率计算，(2)容易丢失弱联合依赖边，(3)对边的方向的确定具有局限性．针对这些问题，本文提出了首先进行递推条件独立性检验，然后进行因果语义定向，最后进行冗余边检验的贝叶斯网络结构学习方法．该方法能够有效地避免这些问题，更准确地建立马尔科夫毯预测．关键词贝叶斯网络，预测，马尔科夫毯，因果语义，碰撞识别中圈法分类号TP311．134．11引言方法．这些方法都是近似地确定马尔科夫毯中的变量．贝叶斯网络能够准确确定马尔科夫毯中的变量，当概率分布具有完全图时，可以证明所确定的是最有

3、代表性的朴素贝叶斯(naiveBayes)预测EI_和小的马尔科夫毯l3J．建立马尔科夫毯结构经历了链TAN(TreeAugmentedNaiveBayes)预测1分别采式结构(马尔科夫链)、星形结构、树形结构(最大似用星形结构和基于类约束的属性树结构近似分解联然树)和网络结构l3J(贝叶斯网络和马尔科夫网络)合概率，这样往往会失去一些有用的信息，导致预测等不同阶段，其中只有贝叶斯网络(或马尔科夫网能力下降．贝叶斯网络预测使用联合概率的最优压络)才能准确地确定马尔科夫毯的结构．过去对马尔缩展开式进行预测，保证不丢失有用信息，但保留

4、着科夫毯中的变量和结构一般是分开研究，先确定变展开式中的冗余项，降低了预测效率，并且易于产生量，后确定结构，不能有效利用变量之间的依赖关对数据的过度拟合现象．贝叶斯网络中的马尔科夫系，得到的结构往往是近似结构．贝叶斯网络把变量毯E3_屏蔽被预测变量与其它变量之间的联系，具有和结构作为一个有机的整体，以结构(贝叶斯网络结更简单的结构，因此，不会降低预测的准确性，避免构)作为核心，在确定结构的同时确定了变量，并根对数据的过度拟合，能显著提高预测效率．据结构和训练集确定参数，因此，基于贝叶斯网络的确定一个变量马尔科夫毯中的变量和结构是一

5、马尔科夫毯预测学习的关键是建立贝叶斯网络结个重要而困难的问题，在许多领域(多元统计分析、构．数据采掘和模式识别等)都是研究的热点之一．确定现有的贝叶斯网络结构学习方法可分成两类，马尔科夫毯中变量也称为特征子集选择(确定最小一类是基于打分一搜索的学习方法【6-7]，另一类是特征子集是NP困难问题【J)，典型的方法【5J有the基于依赖分析的学习方法_8'．两类方法各有特点，filterapproach和thewrapperapproach等，搜索策略打分一搜索方法过程简单规范，但由于搜索空间大，一般采用hill—climbing和b

6、est—firstsearch等，搜索方一般要求结点有顺序，并根据打分函数的可分解性向可选择forwardselection或backwardelimination进行局部确定或随机搜索(完全搜索是NP困难问*国家自然科学基金(No．60275026)、吉林省自然科学基金(No．20030517—1)资助项目收稿日期：2003—04—09；修回日期：2003—08—07维普资讯http://www.cqvip.com18模式识别与人工智能17卷题)，这样不仅降低了学习效率，而且易陷入局部最只研究这种马尔科夫毯．优结构．依赖分析方法

7、过程比较复杂，但在一些假设定义2在贝叶斯网络中，设变量X的马尔科下学习效率较高，而且能够获得全局最优结构．在现夫毯中包含变量X，，ll’X⋯，，X，称使用，有的依赖分析方法中，冗余边检验是在确定边的方⋯argmax、{P(xl)儿P()}对x所、l’2’⋯’⋯』∈向之前进行，这样无法准确地确定切割集，从而导致，f，大量的高维条件概率计算，以确定变量之间的条件进行的预测为马尔科夫毯预测．独立性．在对草图的扩展中，由于条件变量的不足，对概率分布P(xl，2，⋯，)和P的贝叶斯网可能丢失弱联合依赖边(只有和其它变量联合时才络G，可以证明

8、贝叶斯网络预测和马尔科夫毯预测表现出较强依赖的边)．碰撞识别定向的依据是V都是最优的预测(当P存在完全图[J时，可以证明结构_10J的特征和贝叶斯网络结构的无环性，这样往Mx是X的最小马尔科夫毯)，限于篇幅，本文只给往不能定向所有的边．这些问题的存