专题：贝叶斯统计简介

《专题：贝叶斯统计简介》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、统计学专题（一）贝叶斯统计学简介重庆工商大学数统学院李勇（023）62002579liongcq@163.com先做人，后做事只有一门学科是必须要教给孩子的，这门学科就是做人的天职。……我宁愿把有这种知识的老师称为导师而不称为教师，因为问题不在于要他拿什么东西去教孩子，而是要他指导孩子怎样做人。——[法国]卢梭一、贝叶斯统计学的历史二、统计推断与决策利用的基本信息三、条件观点与似然原理四、贝叶斯公式、先验分布和后验分布五、先验分布的确定一、贝叶斯统计学的历史约三百年以前，人们开始去严肃的考虑面对不确定性时如何进行推理。JamesBernoulli是第一个构造该问题的人，

2、他意识到在可应用于机会游戏的演绎逻辑和每日生活中的归纳逻辑之间的区别。对于他来说，这个未回答的问题在于前者的机理如何能帮助处理后者的推断问题。英国学者托马斯.贝叶斯(ThomasBayes,1702-1761)生前所作的一篇论文——《论有关机遇问题的求解》，对Bernoulli的问题提供了回答。在文章中他提出了著名的贝叶斯公式和一种归纳推理的方法。然而，当时他的理论成果并没有得到足够的重视，后来在他理论的基础上逐渐形成了贝叶斯学派。时至今日，贝叶斯学派已经与经典学派共同成为统计学的两大主流学派。贝叶斯学派的基本观点任一未知参数都可以看作是随机变量，可用一个概率分布去描述

3、，这是经典学派和贝叶斯学派争论的焦点所在。贝叶斯学派认为：可以把任一未知参数看作随机变量，并且通过利用主观的判断和直觉，提供先验信息（即先验分布）；经典学派只承认利用样本信息，不承认利用主观的判断和直觉，即不承认利用先验信息。关于未知参数是否可以看作随机变量在经典学派和贝叶斯学派间争论了很长时间，如今经典学派已经不反对这一观点。现在争论的焦点是：如何利用各种先验信息合理的确定先验分布。贝叶斯学派发展几个阶段ThomasBayes:1736年ThomasBayes提出了重要的贝叶斯定理，其遗著《论有关机遇问题的求解》被他的朋友RichardPrice整理于1763年发表。

4、贝叶斯理论的价值才被世人认识，贝叶斯理论开始奠基。Laplace:目前以他姓名命名的定理的现代形式实际上归功于Laplace。Laplace本人不仅重新发现了贝叶斯定理，且阐述的远比贝叶斯更为清晰，还用它来解决天体力学，医学统计，甚至法律问题。他全心全意的赞成用于推断问题的贝叶斯公式。遗憾的是，Laplace取得的成功和他对概率论的发展做出的巨大贡献，却并不为当时有势力的欧洲数学家所认可。之后虽还有一些零星的研究，由于理论的不完善和应用中出现了一些问题，贝叶斯学派的一些理论长期不被人们所接受。现代发展：进入到上世纪50年代，贝叶斯理论得到了充分发展，60、70年代以来，

5、其发展达到鼎盛时期。许多专家学者投身于贝叶斯理论的研究和应用推广中来，力图从不同的角度对贝叶斯理论进行进一步的探讨和研究，形成了具有多分支的理论系统。目前被承认的现代贝叶斯统计工具应当归功于Jeffry、Wald、Savage、Raiffa&Schlaifer、Lindly及DeFinett。他们都曾做过大量有意义的工作，为建立统一的理论体系和方法论奠定了基础。A.Wald统计决策理论是著名统计学家A.Wald(1902-1950)在上世纪四十年代建立起来的，他在其文章《统计决策函数》中系统、详细的阐述了统计决策理论，统计决策理论与经典统计学的差别在于是否涉及后果，经典

6、统计学着重于推断，而不考虑用在何处和效益如何，而统计决策理论引入损失函数，用来度量效益大小，评价统计推断结果的优劣。二、统计推断与决策利用的基本信息1、总体信息2、样本信息3、先验信息4、损失函数1、总体信息指总体分布或总体所属分布族所蕴涵的信息。如：“总体是正态分布”蕴涵：它的密度函数是一条钟形曲线；它的一切阶矩都存在；可以计算一些事件的概率；可以导出χ2分布、t分布和F分布；还有成熟的点估计、区间估计和假设检验方法等等。2、样本信息样本信息：指从总体抽取的样本所提供的信息。基于总体和样本信息进行的统计推断，称为经典（频率派）统计学。基本观点：1）把未知参数θ看作是一

7、个固定的，未知的常数（向量），是估计和检验等问题的目标。2）利用的样本信息涉及到试验所有可能出现的数据，即把样本数据看成是来自具有一定概率分布的总体，所研究的对象是指这个总体，而不局限于已获得的样本数据本身。3）其概率论基础是频率概率：表示在大量重复试验下的相对频率。遵守概率三条公理（非负性、正规性、可加性）。3、先验信息指在抽样之前有关统计问题的非样本信息。主要来自过去的经验和历史资料。关于先验信息的重要性，英国统计学家L.J.Savage1961年提出一个令人信服的例子。例（英L.J.Savage，1961）以下有三个试验：（1）一位