资源描述：
《贝叶斯网络结构学习及其应用研究》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。
1、DOI:10.13203/j.whugis2004.04.008第29卷第4期武汉大学学报·信息科学版Vol.29No.42004年4月GeomaticsandInformationScienceofWuhanUniversityApr.2004文章编号:1671-8860(2004)04-0315-04文献标识码:A贝叶斯网络结构学习及其应用研究111黄解军万幼川潘和平(1武汉大学遥感信息工程学院,武汉市珞喻路129号,430079)摘要:阐述了贝叶斯网络结构学习的内容与方法,提出一种基于条件独立性(CI)测试的启发式算法。从完
2、全潜在图出发,融入专家知识和先验常识,有效地减少网络结构的搜索空间,通过变量之间的CI测试,将全连接无向图修剪成最优的潜在图,近似于有向无环图的无向版。通过汽车故障诊断实例,验证了该算法的可行性与有效性。关键词:贝叶斯网络;结构学习;条件独立性;概率推理;图论中图法分类号:TP18;TP311贝叶斯网络学习是贝叶斯网络的重要研究内述,在具体问题领域,内部的变量关系形成相对稳容,也是贝叶斯网络构建中的关键环节,大体分为定的结构和状态。这种结构的固有属性确保了结结构学习和参数学习两个部分。由于网络结构的构学习的可行性,也为结构学习提供
3、了基本思路。空间分布随着变量的数目和每个变量的状态数量贝叶斯网络结构学习是一个网络优化的过程,其呈指数级增长,因此,结构学习是一个NP难题。目标是寻找一种最简约的网络结构来表达数据集为了克服在构建网络结构中计算和搜索的复杂中变量之间的关系。对于一个给定问题,学习贝[1～5]性,许多学者进行了大量的探索性工作。至叶斯网络结构首先要定义变量及其构成,确定变今虽然出现了许多成熟的学习算法,但由于网络量所有可能存在的状态或权植。同时,要考虑先结构空间的不连续性、结构搜索和参数学习的复验知识的融合、评估函数的选择和不完备数据的杂性、数据的不
4、完备性等特点,每种算法都存在一影响等因素。定的局限性。本文提出了一种新算法,不仅可以1.2贝叶斯网络结构学习的方法有效地减少网络结构的搜索空间,提高结构学习近10年来,贝叶斯网络的学习理论和应用取的效率,而且可避免收敛到次优网络模型的问题。得了较大的进展。目前,贝叶斯网络结构学习的方法通常分为两大类:①基于搜索与评分的方1贝叶斯网络结构学习的基本理论法,运用评分函数对网络模型进行评价。通常是给定一个初始结构(或空结构),逐步增加或删减1.1贝叶斯网络结构学习的内容连接边,改进网络模型,从而搜索和选择出一个与贝叶斯网络又称为信念网络
5、、概率网络或因样本数据拟合得最好的结构。根据不同的评分准[6][3,7]果网络。它主要由两部分构成:①有向无环图则,学习算法可分为基于贝叶斯方法的算法、[8](directedacyclicgraph,DAG),即网络结构,包括基于最大熵的算法和基于最小描述长度的算[1,2]节点集和节点之间的有向边,每个节点代表一个法。②基于依赖关系分析的方法,节点之间变量,有向边代表变量之间的依赖关系;②反映依赖关系的判断通过条件独立性(CI)测试来实变量之间关联性的局部概率分布集,即概率参数,现,文献[9,10]描述的算法属于该类算法。前者通
6、常称为条件概率表(conditionalprobability在DAG复杂的情况下,学习效率更高,但不能得table,CPT),概率值表示变量之间的关联强度或到一个最优的模型;后者在数据集的概率分布与[11]置信度。贝叶斯网络结构是对变量之间的关系描DAG同构的条件下,通常获得近似最优的模型,收稿日期:2004-01-23。项目来源:国家自然科学基金资助项目(60175022)。316武汉大学学报·信息科学版2004年但运用该方法要求样本数据集具有一定的规模。同样,条件互信息I(X,YZ)定义为:I(X,Y
7、Z)=∑p(X,Y,Z
8、)·2贝叶斯网络结构学习的启发式算X,Y,Zp(X,Y
9、Z)法lg(2)p(X
10、Z)p(Y
11、Z)先假设所有的节点之间存在连接,节点X和Y2.1算法的原理之间连接的潜在性运用条件互信息来计算。在通常贝叶斯网络结构学习是通过对给定数据集的情况下,设定一个较小正实数的阈值ε,当学习和训练,寻找一种最佳的网络来表达变量之I(X,YZ)≤ε时,称X与Y被条件集Z进行d-间的依赖关系,即确定变量之间的因果连接集合。分割,即在给定Z的条件下,X条件独立于Y,从而本文提出一种贝叶斯网络结构学习的启发式算删除X与Y之间的连接。经过n(n-1)/2次
12、CI法,其基本思路是基于给定数据集,通过CI测试,测试,最后由完全潜在图修剪成稀疏的理想潜在图。有效地修剪完全潜在图,得到一个最优的无向结2.2算法实现构或最小潜在图。在给定其他变量子集的情况1)初始化完全潜在图。下,任何两个变量X和Y之间的条件独
