数理统计04估计量的优良性准则.ppt

《数理统计04估计量的优良性准则.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、§2估计量的优良性准则一、无偏准则四、一致最小方差无偏估计二、均方误差的准则五、无偏估计的C-R下界三、有效性准则六、相合(一致）准则定义2.1无偏估计量(UnbiasedEstimate)。一、无偏准则例1试讨论它们的无偏性。解容易验证是无偏的。因为～这样的无偏估计为然而一般总体下，也是无偏估计！可估。注意：（1）无偏估计可能不存在。（2）若无特别声明，均认为是可估参数。对可估参数，无偏估计一般不唯一。（3）无偏估计不一定是好的估计，即它可能是非容许的。（4）在函数变换下，无偏性可能消失，即的有偏估计。二、均方误差准则计优劣的一个自然准则可定义如下：称上

2、式为均方误差，(MeanSquaredError)简记为MSE。其中偏差。（bias）方差偏差确定，即例4.1MLE的均方误差。MLE估计的均方误差更小！果对所有不等式成立，则称T比S好，也说S是非容许的。(Inadmissible)通常不会采用不容许的估计从均方误差可知，我们自然希望估计的MSE越小越好。对所有的成立，估计。因为倘若这样的估计存在，不存在。由此可见，均方误差一致达到最小的最优估计并不存在，那么应如何评判和寻找优良的估计呢？方法之一是对估计提出一些合理性的要求，将那些诸如不合理的平凡估计排除在外，然后在满足合理性要求的估计类中寻找优良的估计

3、。无偏性便是一种常用的合理性要求。由定义4.1可知无偏估计的均方误差就是它在均方误差准则下，既然最好的估计不存的无偏估计（一致最小方差无偏估计）是否那么现在的问题是对无偏估计类而在，若存在，它是否是唯一的？言，同样在均方误差（方差）准则下，最好存在？如何求？这些就是我们下面需要讨论的主题。三、有效性准则定义参数，同为无偏估，方差越小越有效！例3.9四、一致最小方差无偏估计定义参数，一致最小方差无偏估计，(UniformlyMinimumVarianceUnbiasedEstimate)简称为UMVUE。五、C-R信息不等式如果的UMVUE存在，则它在无偏估

4、计类中最优，且其方差不可能是零，不是无偏估计。因为参数的方差为零的平凡估计对的无偏估计类，既然无偏估计的方差不是零，一个下界，则必存在这个下界到底是多少？（1）（2）Cramer-Rao正则族：1、Fisher信息量分可交换次序，即我们定义该分布族的Fisher信息量:（FisherInformationNumber）可以证明，例设总体分布是Poisson分布族，即则因而Poisson分布族的Fisher信息量定理(C-R信息不等式)的统计量，如果分布族是Cramer-Rao正则族，则对所2、Rao-Cramer方差下界证明由于对所有，等式两边对求导可得有

5、有又因为对所有的，等式两边对求导可得即就是这样就有从而有由SchwarzInequality有而所以有即就是在信息不等式中，下界通过依赖于因它是的数学期望，也就是说对不同的统计量而言，下界是变化的。特别地，有通常称量为Cramer-Rao下界。3、无偏估计的C-R下界注意：（1）在以上三个不等式中的密度函数或分布律。通常将看成一次观察所能获得的关于参数的信息，即一个观测值所含的信息，那么就表示样本所含的信息。对无偏估计类而言，了方差的下界，那么UMVUE方差是否一定取既然信息不等式给出得这个下界？信息不等式的下界，即定义则族，其方差达到信息不等式的下界，如

6、果存在某无偏估计即则称为的有效估计。(EfficientEstimate)定义有效率(Efficiency)。显然因此，有效估计乃是有效率为1的无偏估计。例一个简单样本。解从而对任有所以～即故例3.10定义如果都有渐近无偏估计。（AsymptoticUnbiasedEstimate）例如对证态总体，我们知道是总体方差的有偏估计，且这样有定义如果存在无偏估使得成立，则称为的渐近有效估计。(AsymptoticEfficientEstimate)例如由于所以～即而Cramer-Rao下界为是有效估计。但是六、相合性准则引例假设掷一枚硬币，出现正面的概率是，出现

7、反面的概率为。为了估计正面出现的概率，做次独立重复试验，即将硬币反复掷次，令由大数定律知，试验次数越多，频率越频率稳定于（趋于）概率。接近于正面出现的概率，时，当样本容量变大要求参数的估计量具有这种极限性质实际上是对估计量的基本要求，这就是下面要介绍估计量的相合性(Consistency)准则。定义任一估计序列，相合估计。(ConsistentEstimate)即大样本性质。定理任一估计序列，例3.12证明例相合估计。的一个简单样本，证明由例4.6知的密度函数为且这样定理相合估计。且证明从而这样即就是在Hardy-Weinberg模型中同位基因之一发生频率

8、的三个频率替换估计为又因为相应的函数且由大数定律知估计，都是连续函