智能决策理论与方法-贝叶斯网络

《智能决策理论与方法-贝叶斯网络》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、数据处理与智能决策解迎刚物联网系yinggangxie@163.comTel:136911179392智慧知识信息数据智能决策数据处理物联网感知为什么要进行数据预处理、如何对数据进行预处理数据准备：数据处理的要求和方法物联网技术物联网技术推动了智能决策的发展专家系统数据挖掘机器学习数据分析数据模型可视化算法：统计方法（聚类分析）、贝叶斯判别、粗糙集、决策树、人工神经网络、支持向量机、时间序列分析等等数据处理与智能决策——贝叶斯网络（概率推理）2021/9/9数据处理与智能决策4内容提要1概述2贝叶斯概率基础3贝叶斯问题的求解4简单贝叶斯学习模型5贝叶斯

2、网络的建造6贝叶斯潜在语义模型7半监督文本挖掘算法2021/9/9数据处理与智能决策51概述贝叶斯网络是用来表示变量间连接概率的图形模式，它提供了一种自然的表示因果信息的方法，用来发现数据间的潜在关系。在这个网络中，用节点表示变量，有向边表示变量间的依赖关系。贝叶斯方法以其独特的不确定性知识表达形式、丰富的概率表达能力、综合先验知识的增量学习特性等成为当前数据挖掘众多方法中最为引人注目的焦点之一。2021/9/9数据处理与智能决策61概述1.1贝叶斯网络的发展历史贝叶斯（ReverendThomasBayes,1702-1761）学派奠基性的工作是贝叶

3、斯的论文“关于几率性问题求解的评论”。或许是他自己感觉到它的学说还有不完善的地方，这一论文在他生前并没有发表，而是在他死后，由他的朋友发表的。著名的数学家拉普拉斯（LaplaceP.S.）用贝叶斯的方法导出了重要的“相继律”，贝叶斯的方法和理论逐渐被人理解和重视起来。但由于当时贝叶斯方法在理论和实际应用中还存在很多不完善的地方，因而在十九世纪并未被普遍接受。2021/9/9数据处理与智能决策71概述1.1贝叶斯网络的发展历史二十世纪初，意大利的菲纳特（B.deFinetti）以及英国的杰弗莱（JeffreysH.）都对贝叶斯学派的理论作出重要的贡献。第

4、二次世界大战后，瓦尔德（WaldA.）提出了统计的决策理论，在这一理论中，贝叶斯解占有重要的地位；信息论的发展也对贝叶斯学派做出了新的贡献。1958年英国最悠久的统计杂志Biometrika全文重新刊登了贝叶斯的论文，20世纪50年代，以罗宾斯（RobbinsH.）为代表，提出了经验贝叶斯方法和经典方法相结合，引起统计界的广泛注意，这一方法很快就显示出它的优点，成为很活跃的一个方向。2021/9/9数据处理与智能决策81概述1.1贝叶斯网络的发展历史随着人工智能的发展，尤其是机器学习、数据挖掘等兴起，为贝叶斯理论的发展和应用提供了更为广阔的空间。贝叶斯

5、理论的内涵也比以前有了很大的变化。80年代贝叶斯网络用于专家系统的知识表示，90年代进一步研究可学习的贝叶斯网络，用于数据采掘和机器学习。近年来，贝叶斯学习理论方面的文章更是层出不穷，内容涵盖了人工智能的大部分领域，包括因果推理、不确定性知识表达、模式识别和聚类分析等。并且出现了专门研究贝叶斯理论的组织和学术刊物InternationalSocietyBayesianAnalysis。2021/9/9数据处理与智能决策91概述1.2贝叶斯方法的基本观点贝叶斯分析方法的特点是用概率去表示所有形式的不确定性，学习或其它形式的推理都用概率规则来实现。贝叶斯学

6、习的结果表示为随机变量的概率分布，它可以解释为我们对不同可能性的信任程度。贝叶斯学派的起点是贝叶斯的两项工作：贝叶斯定理和贝叶斯假设。贝叶斯定理将事件的先验概率与后验概率联系起来。2021/9/9数据处理与智能决策101概述1.2贝叶斯方法的基本观点假定随机向量x，θ的联合分布密度是p(x,θ)，它们的边际密度分别为p(x)、p(θ)。一般情况下设x是观测向量，θ是未知参数向量，通过观测向量获得未知参数向量的估计，贝叶斯定理记作：π(θ)是θ的先验分布(1)2021/9/9数据处理与智能决策111概述1.2贝叶斯方法的基本观点贝叶斯方法对未知参数向量估

7、计的一般过程为：⑴将未知参数看成随机向量，这是贝叶斯方法与传统的参数估计方法的最大区别。⑵根据以往对参数θ的知识，确定先验分布π(θ)，它是贝叶斯方法容易引起争议的一步，因此而受到经典统计界的攻击。⑶计算后验分布密度，做出对未知参数的推断。在第⑵步，如果没有任何以往的知识来帮助确定π(θ)，贝叶斯提出可以采用均匀分布作为其分布，即参数在它的变化范围内，取到各个值的机会是相同的，称这个假定为贝叶斯假设。2021/9/9数据处理与智能决策121概述1.3贝叶斯网络的应用领域辅助智能决策数据融合模式识别医疗诊断文本理解数据挖掘1.贝叶斯方法用于分类及回归分析

8、2.用于因果推理和不确定知识表达3.用于聚类模式发现2021/9/9数据处理与智能决策132贝