贝叶斯统计学2.ppt

《贝叶斯统计学2.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第二章贝叶斯推断§2.1条件方法§2.2估计§2.3区间估计§2.4假设检验§2.5预测§2.6似然原理10/6/202112.1条件方法未知参数θ的后验分布是集总体、样本和先验三种信息于一身，是将三种信息进行有效综合的结果，反映了我们所能了解的有关θ的全部信息。应该说给统计推断提供了更有利条件。----条件方法正是充分利用这一条件的方法。后验分布是在样本x给定下θ的条件分布，基于后验分布的统计推断就意味着只考虑已经出现的数据（样本观测值），而认为未出现的数据与推断无关，这一重要的观点被称为“条件观点”，基于这种观点提出的统计推断方法被称为条件方法。10/6/20212经典统计中统计推断的简

2、单回顾经典统计统计推断过程：总体样本样本数据x统计量T统计量分布已知未知枢轴统计量枢轴统计分布推断10/6/20213条件方法统计推断过程综合总体信息、样本信息和先验信息得到后验分布。基于后验分布，在已出现的样本基础上推断总体参数。对统计推断的结果，不认为所谓无偏性是优良估计的评价标准。10/6/202142.2贝叶斯点估计贝叶斯点估计的含义最大后验估计条件期望估计贝叶斯估计误差10/6/202151.贝叶斯估计的含义定义：设θ总体分布中的参数，若事先从该总体中抽得一个样本，同时根据θ的先验信息选择一个先验分布，在贝叶斯公式的基础上计算后验分布，这种对θ的所有推断估计都依据后验分布进行估计方

3、法统称为贝叶斯估计。贝叶斯估计的分类：①首先与经典统计一样，贝叶斯估计也可按照方式分----点估计和区间估计。②按照估计的具体方法分----最大后验估计、条件期望估计和后验中位数估计。10/6/202162.最大后验估计若使得则称为θ的最大后验估计。显然，最大后验估计的特殊情形是当先验分布时最大后验分布就是经典统计中的最大似然估计。10/6/20217一般来说，由于后验分布中，蕴含了抽样信息、先验信息和总体信息，其估计应该比经典统计中的“极大似然估计”要好。在“无信息”的条件下，最大后验估计即为最大似然估计。其他情况下，应该比其更好。10/6/20218例：设是来自正态分布的样本，其中已知。

4、又设的先验分布为求的最大后验估计。解：由题意知其先验分布为10/6/20219∴两边取对数得：10/6/202110为了求上式的最大值，对上式求的导数，并令导数为0,则：解得：10/6/202111按照教材的假设，若取为一儿童智力测验结果的分布，为先验分布，在n=1时可得X=x的条件下该儿童智商的后验分布是正态布,且有当x等于某一具体值时，按此立刻估计出智商水平。此外，在正态分布条件下，中位数、众数和期望相等，因此最大后验估计也就是条件期望估计和后验中位数估计。10/6/202112例：（1）设是来自正态总体的样本，又设的先验分布为求的最大后验估计。（2）若记，

5、设的先验分布为，求的最大后验估计。解：（1）样本的似然函数为：10/6/202113当的先验分布为时，其后验分布为两边去对数有所以10/6/202114（2）同理，可得样本的似然函数为当的先验分布为时，其后验分布为10/6/202115取对数，并对求导则有所以，有的最大后验估计为可见和的最大后验估计是不同的。10/6/2021163.条件期望估计（后验期望估计）定义：设后验分布为，如果满足：则称为的条件期望估计。10/6/202117例：设服从二项分布，又设的先验分布为，求的最大后验估计，条件期望估计。解：①由以上知识知，样本似然函数为取的先验分布为

6、贝塔分布10/6/202118∴后验分布密度为∴的最大后验估计为10/6/202119当时，先验分布为，也即均匀分布因此，的最大后验分布为此即为经典统计学中的极大似然估计。②由以上知，可见，后验密度为，其条件期望估计为10/6/202120例：设是来自poisson分布总体的样本，又设的先验分布为，求参数的后验期望估计。解：样本似然函数为其中。而其给定的先验分布为10/6/202121∴后验分布为这仍然是伽玛分布的“核”，所以的后验期望估计为10/6/2021224.贝叶斯估计的误差引子：设是的一个贝叶斯估计，在样本给定时，是一个具体的数。

7、在取得后验分布以后，评价一个估计的好坏，一般计算对的后验均方差或后验标准差。这就是贝氏统计评价标准。说明：在评价一个估计时，经典统计中是利用所谓所谓几个优良标准：即无偏性、一致性和有效性。但贝叶斯统计并不接受这些所谓的标准。因为他们是建立所有样本的基础之上的理论。10/6/202123定义1：设参数的后验分布贝叶斯估计为，则的后验期望称为的后验均方差。其平方根称为的后验标准误差。定义2:当为的后验期