资源描述:
《先验分布的确定.ppt》由会员上传分享,免费在线阅读,更多相关内容在应用文档-天天文库。
1、1第三章先验分布的确定§3.1主观概率§3.2利用先验信息确定先验分布§3.3利用边缘分布m(x)确定先验密度§3.4无信息先验分布§3.5多层先验2一、主观概率1.贝叶斯学派要研究的问题:如何用人们的经验和过去的历史资料确定概率和先验分布。2.经典统计确定概率的两种方法:(1)古典方法;(2)频率方法。3.主观概率的定义:一个事件的概率是人们根据经验对该事件发生可能性所给出的个人信念。§3.1主观概率3二、确定主观概率的方法1.利用对立事件的比较确定主观概率(例3.1);2.利用专家意见确定主观概率(例3.2);3.向多位专家咨询确定主观概率(例3.3);4.充分利用历
2、史资料,考虑现有信息加以修正,才能得到比较切合实际的主观概率(例3.4)。41.利用对立事件的比较确定主观概率52.利用专家意见确定主观概率63.向多位专家咨询确定主观概率7在座人员根据自己的经验各写了两个数,经理在计算了两个平均值后,稍加修改,提出自己看法:在上述两种情况下,本公司新产品畅销率各为0.9和0.4,这是经理在征求多位专家意见后所获得的主观概率。另据本公司情报部门报告,外厂正忙于另一项产品开发,很可能无暇顾及生产此新产品。经理据此认为,外厂将生产此新产品的概率为0.3,不生产此产品的概率为0.7.利用上述四个主观概率,由全概率公式可得本公司生产此新产品获畅销
3、的概率为0.9*0.7+0.4*0.3=0.7584.充分利用历史资料,考虑现有信息加以修正9注意事项:(1)不管按照什么方法确定的主观概率必须满足概率的三条公理:①非负性公理:对任意事件A,0≤P(A)≤1。②正则性公理:必然事件的概率为1③可列可加性公理:对可列个互不相容的事件A1,A2,…,有(2)如果发现所确定的主观概率与上述三个公理及其推出的性质相悖,必须立即修正。直到两者一致为止。(例3.5)1011§3.2利用先验信息确定先验分布一、直方图法二、选定先验密度函数形式再估计其超参数三、定分度法与变分度法12一、直方图法基本步骤:1.把参数空间分成
4、一些小区间;2.在每个小区间上决定主观概率或依据历史数据确定其频率;3.绘制频率直方图;4.在直方图上作一条光滑曲线,此曲线即为先验分布()。例3.6某药材店记录了吉林人参的每周销售量,现要寻求每周平均销售量θ的概率分布。13二、选定先验密度函数形式再估计其超参数该方法的要点:(1)根据先验信息选定θ的先验密度函数π(θ)的形式,如选其共轭先验分布。(2)当先验分布中含有未知参数(称为超参数)时,譬如π(θ)=π(θ;α,β),给出超参数α,β的估计值,使π(θ;,)最接近先验信息。141516说明:如果有两个甚至多个先验分布都满足给定的先验信息,则要看情况选择:假如
5、这两个先验分布差异不大,对后验分布影响也不大,则可任选一个;如果我们面临着两个差异极大的先验分布可供选择时,一定要根据实际情况慎重选择。17三、定分度法与变分度法基本概念:(1)定分度法:把参数可能取值的区间逐次分为长度相等的小区间,每次在每个小区间上请专家给出主观概率.(2)变分度法:该法是把参数可能取值的区间逐次分为机会相等的两个小区间,这里的分点由专家确定.例3.2.3(自学)18§3.3利用边缘分布m(x)确定先验密度一、边缘分布m(x)二、混合分布三、先验选择的ML-II方法四、先验选择的矩方法19一、边缘分布m(x)设总体X的密度函数为p(x
6、θ),它含有未知
7、参数θ,若θ的先验分布选用形式已知的密度函数π(θ),则可算得X的边缘分布(即无条件分布):当先验分布含有未知参数,譬如π(θ)=π(θ
8、λ),那么边缘分布m(x)依赖于λ,可记为m(x
9、λ),这种边缘分布在寻求后验分布时常遇到。202122二、混合分布(1)混合分布的概念:设随机变量X以概率π在总体F1中取值,以概率1-π在总体F2中取值。若F(x
10、θ1)和F(x
11、θ2)分别是这两个总体的分布函数,则X的分布函数为:F(x)=πF(x
12、θ1)+(1-π)F(x
13、θ2)或用密度函数(或概率密度)表示:p(x)=πp(x
14、θ1)+(1-π)p(x
15、θ2)这个分布F(x)称为
16、F(x
17、θ1)和F(x
18、θ2)的混合分布。这里的π和1-π可以看作一个新随机变量θ的分布,即:P(θ=θ1)=π=π(θ1),P(θ=θ2)=1-π=π(θ2)23(2)混合样本的概念:从混合分布中抽出的样本称为混合样本。注:①从混合分布F(x)中抽取一个样品x1,相当于如下的二次抽样:第一次:从π(θ)中抽取一个样品θ。第二次:若θ=θ1,则从F(x
19、θ1)中再抽一个样品,这个样品就是x1;若θ=θ2,则从F(x
20、θ2)中再抽一个样品,这个样品就是x124②若从混合分布抽取一个容量为n的样本x1,x2,…,xn,则约有n