第三章 贝叶斯估计

第三章 贝叶斯估计

ID:46587682

大小:712.04 KB

页数:49页

时间:2019-11-25

第三章 贝叶斯估计_第1页
第三章 贝叶斯估计_第2页
第三章 贝叶斯估计_第3页
第三章 贝叶斯估计_第4页
第三章 贝叶斯估计_第5页
资源描述:

《第三章 贝叶斯估计》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库

1、第三章贝叶斯估计§3.1贝叶斯推断方法一、统计推断中可用的三种信息美籍波兰统计学家耐(E.L.Lehmann1894~1981)高度概括了在统计推断中可用的三种信息:1.总体信息,即总体分布或所属分布族给我们的信息。譬如“总体是指数分布”或“总体是正态分布”在统计推断中都发挥重要作用,只要有总体信息,就要想方设法在统计推断中使用。2.样本信息,即样本提供我们的信息,这是任一种统计推断中都需要。13.先验信息,即在抽样之前有关统计推断的一些信息。譬如,在估计某产品的不合格率时,假如工厂保存了过去抽检这种产品质量的资料,这些资料(包括历史数据)有时估计

2、该产品的不合格率是有好处的。这些资料所提供的信息就是一种先验信息。又如某工程师根据自己多年积累的经验对正在设计的某种彩电的平均寿命所提供的估计也是一种先验信息。由于这种信息是在“试验之前”就已有的,故称为先验信息。以前所讨论的点估计只使用前两种信息,没有使用先验信息。假如能把收集到的先验信息也利用起来,那对我们进行统计推断是有好处的。只用前两种信息的统计学称为经典统计学,三种信息都用的统计学称为贝叶斯统计学。本节将简要介绍贝叶斯统计2学中的点估计方法。二、贝叶斯公式的密度函数形式贝叶斯统计学的基础是著名的贝叶斯公式,它是英国学者贝叶斯(T.R.Ba

3、yes1702~1761)在他死后二年发表的一篇论文《论归纳推理的一种方法》中提出的。经过二百年的研究与应用,贝叶斯的统计思想得到很大的发展,形成一个统计学派—贝叶斯学派。为了纪念他,英国历史最悠久的统计杂志《Biometrika》在1958年又全文刊登贝叶斯的这篇论文。初等概率论中的贝叶斯公式是用事件的概率形式给出的。可在贝叶斯统计学中应用更多的是贝叶斯公式的密度函数形式。下面结合贝叶斯统计学的基本观点来引出其密度函数形式。贝叶斯统计学的基本观点可以用下面三个观点归纳出来。3假设Ⅰ随机变量X有一个密度函数p(x;θ),其中θ是一个参数,不同的θ对

4、应不同的密度函数,故从贝叶斯观点看,p(x;θ)在给定θ后是个条件密度函数,因此记为p(x│θ)更恰当一些。这个条件密度能提供我们的有关的θ信息就是总体信息。假设Ⅱ当给定θ后,从总体p(x│θ)中随机抽取一个样本X,…,X,该样本中含有θ的有关信息。这1n种信息就是样本信息。假设Ⅲ我们对参数θ已经积累了很多资料,经过分析、整理和加工,可以获得一些有关θ的有用信息,这种信息就是先验信息。参数θ不是永远固定在一个值上,而是一个事先不能确定的量。4从贝叶斯观点来看,未知参数θ是一个随机变量。描述这个随机变量的分布可从先验信息中归纳出来,这个分布称为先验分

5、布,其密度函数用π(θ)表示。1先验分布定义3.1将总体中的未知参数θ∈Θ看成一取值于Θ的随机变量,它有一概率分布,记为π(θ),称为参数θ的先验分布。2后验分布在贝叶斯统计学中,把以上的三种信息归纳起来的最好形式是在总体分布基础上获得的样本X,…,1X,和参数的联合密度函数5np(x,,x,)p(x,,x)()1n1nX,,X在这个联合密度函数中。当样本1n给定之后,未知的仅是参数θ了,我们关心的是样本给定后,θ的条件密度函数,依据密度的计算公式,容易获得这个条件密度函数p(x,,x,)1n(x,,x)1np(x,,

6、x)1np(x,,x)()1np(x,,x)()d1n这就是贝叶斯公式的密度函数形式,(x,,x)1n称为θ的后验密度函数,或后验分布。而p(x,,x)p(x,,x)()d61n1nX,,X是样本的边际分布,或称样本1n的无条件分布,它的积分区域就是参数θ的取值范围,随具体情况而定。前面的分析总结如下:人们根据先验信息对参数θ已有一个认识,这个认识就是先验分布π(θ)。通过试验,获得样本。从而对θ的先验分布进行调整,调整的方法就是使用上面的贝叶斯公式,调整的结果就是后验分布(x,,x)。后验分布是

7、1n三种信息的综合。获得后验分布使人们对θ的认识又前进一步,可看出,获得样本的的效果是把我们对θ的认识由π(θ)调整到(x1,,xn)。所以对θ的统计推断就应建立在后验分布(x1,,xn)的基础上。7例1设事件A的概率为θ,即PA()。为了估计θ而作n次独立观察,其中事件A出现次数为X,则有X服从二项分布b(n,)即xxnxP(Xx)C(1),x0,1,,n.n如果此时我们对事件A的发生没有任何了解,对θ的大小也没有任何信息。在这种情况下,贝叶斯建议用区间(0,1)上的均匀分布作为θ的先验分布。因为它在(0,1)

8、上每一点都是机会均等的。这个建议被后人称为贝叶斯假设。1,01()0,others8样本X与参数θ的联合

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。