贝叶斯公式的发展与应用

《贝叶斯公式的发展与应用》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、贝叶斯公式的发展与应用一．内容摘要：贝叶斯公式可以在不完全信息下，对部分位置的状态用主观概率估计或统计得来的先验概率，然后用贝叶斯公式对诱发某结果的最可能原因进行概率推理，即所谓的“逆概问题”。贝叶斯统计理论有英国数学家贝叶斯提出，对现代概率论和梳理统计有着重要作用。目前，贝叶斯网络已经广泛应用在医学、信息传递、生产、侦破案件几个方面。关键字：贝叶斯公式概率推理二．正文：1.引言贝叶斯公式是概率论中重要的公式，主要用于计算比较复杂事件的概率,它实质上是加法公式和乘法公式的综合运用，它从数量上划分了事

2、物的先验概率和后验概率，可以在不完全信息下，对部分位置的状态用主观概率估计或统计得来的先验概率，然后用贝叶斯公式对诱发某结果的最可能原因进行概率推理，即所谓的“逆概问题”。首先，我们引入三个问题：1、一台正确率为99%的机器，它的检测结果有多大可信度？2、一位经验丰富的老警察，辨识小偷的正确率达到99%，当他觉得一个人是小偷的时候，这人真是小偷的概率是多少？3、美国电影的“黑衣人”特工常年与外星人打交道，辨识外星人的正确率也是99%，请问，当他说你是外星人的时候，你真是外星人的概率是多少？在学习概率

3、论这门课之前，我们会觉得这三个问题的答案不相同，因为机器的正确率可信，小偷比较常见，而外星人则过于离奇。这个直觉是对的—即使检验者同等精确，由于他们所验证的事情本身在先验概率上的不同，导致其令人信服的程度也是不一样的。而经过了贝叶斯公式的学习，我们可以得出这种直觉，完全可以通过计算来印证。2.贝叶斯公式的发现贝叶斯ThomasBayes，英国数学家.1702年出生于伦敦，做过神甫。1742年成为英国皇家学会会员。1763年4月7日逝世。贝叶斯在数学方面主要研究概率论。为了证明上帝的存在，他发明了概率

4、统计学原理，遗憾的是，他的这一美好愿望至死也未能实现。贝叶斯在数学方面主要研究概率论。他首先将归纳推理法用于概率论基础理论，并创立了贝叶斯统计理论，对于统计决策函数、统计推断、统计的估算等做出了贡献。1763年发表了这方面的论著，对于现代概率论和数理统计都有很重要的作用。贝叶斯的另一著作《机会的学说概论》发表于1758年。经过多年的发展与完善，贝叶斯公式以及由此发展起来的一整套理论与方法，已经成为概率统计中的一个冠以“贝叶斯”名字的学派，在自然科学及国民经济的许多领域中有着广泛应用。3.贝叶斯公式在

5、概率推理中的应用3.1全概率公式和贝叶斯公式全概率公式：设试验E的样本空间S，事件A,A,A,,A,构成样本空间S的一个完备事件组，123n而且P(A)0,i1,2,3,,ni则对于任何一件事件B，有nP(B)P(Ai)P(B

6、Ai)i1贝叶斯公式：在上述公式下，若P(B)0，有P(A)P(B

7、A)ikP(A

8、B)inP(Ai)P(B

9、Ai)i1事件A,A,A,,A,可以看作是导致事件B发生的各种“原因”,先验概率P(A)是在事件B123nk出现这一信息得知前A的概率,后验

10、概率是在经过试验获知事件B已经发生这个信息之后事件发生的条k件概率,后验概率依赖于试验中得到的新信息的具体情况(比如事件B发生还是事件B的对立事件发生)。名词解释：1）后验概率：后验概率P(ωj

11、x)，即假设特征值x已知的条件下类别属于ωj的概率。2）似然函数：p(x

12、ωj)为ωj关于x的似然函数，也成为类条件概率密度函数，表明类别状态为ω时的x的概率密度函数。3）先验概率：先验概率P(ωj)是由先验知识而获得的。4）证据因子：证据因子的存在知识为了保证各类别的后验概率的总和为1。3.2贝叶斯公式的

13、证明设H是假设，X是一个数据元组，也可以看作是一个证据P(H)是先验概率（priorprobability)，P(H

14、X)是后验概率，即在X条件下H发生的概率。由贝叶斯定理，可以根据P(X),p(H)和p(X

15、H)来计算P(H

16、X)，具体是：P(X

17、H)*P(H)P(H

18、X)(*)P(X)公式推导：P(HX)P(H

19、X)(1)P(X)P(XH)P(X

20、H)(2)P(H)由上（1）（2）式，即得（*）式3.3贝叶斯公式的地位和应用贝叶斯公式是概率论中较为重要的公式，是一种建立在概率和统计理论基础

21、上的数据分析和辅助决策工具，以其坚实的理论基础、自然的表示方式、灵活的推理能力和方便的决策机制受到越来越多研究学者的重视。目前，贝叶斯网络已经广泛应用在医学、信息传递、生产、侦破案件几个方面。我们通常的计算思维是——“假设袋子里面有M个黑球、N个白球，从中摸出一个，摸出黑球的概率是多大？”——这是“正向概率”。然而，现实世界本身就是不确定的，人类的观察能力是有局限性的，我们日常所观察到的只是事物表面上的结果，就好像上面我们往往只能知道从里面取出来的球是什么颜色，而并不