估计量的优良性准则续

《估计量的优良性准则续》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第五讲估计量的优良性准则（续）一、一致最小方差无偏估计（续）二、信息不等式三、相合估计一、一致最小方差无偏估计（续）定理4.3(Lehmann-Scheffe)无偏估计，UMVUE，注：Lehmann-Scheffe定理实际上给出了两种寻找UMVUE的方法，（1）（2）但首先必须知即寻找完全充分统计量的函数使之成为的无偏估计。例4.5样本。解首先求完全充分统计量。由于所以由定理4.2可知完全充分统计量为且是完全充分统计量的函数，知时，的UMVUE为。故当未无论是已知或未知，注：又的函数，例4.6注：解由因子分解定理

2、可知它是充分统计量。由于下证它也是完全的。这个只又因为UMVUE。二、信息不等式在上一节，我们知道如果UMVUE存在，则它在无偏估计类中是最好的，且其方差不可能是零，不是无偏估计。因为参数的方差为零的平凡估计那么，现在的问题是：对的无偏估计类，（1）既然无偏估计的方差不是零，在一定的条件下，一个下界，则必存在这个下界到底是多少？（2）若UMVUE存在，那么它的方差是否可以达到这个下界？问题（1）已由Cramer-Rao不等式（信息不等式）揭示；问题（2）不一定成立，我们举例予以阐述。为了使问题简化，在这一小节中，我

3、们仅讨单参数和连续总体情况。对多参数及离散总体也有相应结论，可参看《高等数理统计学》（茆诗松），或《线性统计推断及应用》（C.R.Rao）。（1）（2）Cramer-Rao正则族：分可交换次序，即当仅有（1）成立时，我们可以定义所谓的Fisher信息量（FisherInformationNumber）例4.7设总体分布是Poisson分布族，即则因而可以证明，定理4.4(Cramer-RaoorInformationInequality)的统计量，如果分布族是Cramer-Rao正则族，则对所证明由于对所有，等式两

4、边对求导可得有有又因为对所有的，等式两边对求导可得即就是这样就有从而有由SchwarzInequality有而所以有即就是在信息不等式中，下界通过依赖于因它是的数学期望，也就是说对不同的统计量而言，下界是变化的。如果将此有特别地，有通常称量为Cramer-Rao下界。注意：（1）在以上三个不等式中的密度函数或分布率。通常将看成一次观察所能获得的关于参数的信息，即一个观测值所含的信息，那么就表示样本所含的信息。（2）在将定理4.4应用于无偏估计类时，一定要注意定理的条件是否满足。Cramer在1946年举例说明当定理

5、的条件不满足时，存在这样的无偏估计，其方差小于信息不等式的下界。这个例子为：取充分统计量作为参数的估计，通过取其数学期望可获得参数的无偏估计为则有其具体证明过程课后自己完成。对无偏估计类而言，了方差的下界，那么UMVUE方差是否一定取既然信息不等式给出得这个下界？我们用下述例子说明不一定。例4.8一个简单样本。试求参数的UMVUE，并证明其方差大于信息不等式的下界。解由于由定理4.2知完全充分统计量为，所以UMVUE为，且服从。而由有统计量的函数，所以它是的UMVUE。为了计算UMVUE的方差，令则而所以这说明的U

6、MVUE的方差未达到信息不等式的下界。信息不等式的下界，即例4.9一个简单样本。解由于从而对任有所以～即故定义4.4则族，其方差达到信息不等式的下界，如果存在某无偏估计即则称为的有效估计。(EfficientEstimate)定义4.5令有效率(Efficiency)。显然因此，有效估计乃是有效率为1的无偏估计。定义4.6如果都有渐近无偏估计。（AsymptoticUnbiasedEstimate）例如对证态总体，我们知道是总体方差的有偏估计，且这样有定义4.7如果存在无偏估使得成立，则称为的渐近有效估计。(Asy

7、mptoticEfficientEstimate)例如由于所以～即而Cramer-Rao下界为是有效估计。但是需要说明的是当UMVUE的方差较大时，方差小的有偏估计也不失为一个好的估计。三、相合估计引例假设掷一枚硬币，出现正面的概率是，出现反面的概率为。为了估计正面出现的概率，做次独立重复试验，即将硬币反复掷次，令由大数定律知，试验次数越多，频率越频率稳定于（趋于）概率。接近于正面出现的概率，时，当样本容量变大要求参数的估计量具有这种极限性质实际上是对估计量的基本要求，这就是下面要介绍估计量的相合性(Consist

8、ency)准则。定义4.8任一估计序列，相合估计。(ConsistentEstimate)一般情形下证明估计的相合性可使用定义或大数定律。即大样本性质，当样本容量有限时是无意义的。例4.10相合估计。的一个简单样本，证明由例4.6知的密度函数为且这样下面的定理在证明估计的相合性时很有用。定理4.5相合估计。且证明从而这样即就是在Hardy-Weinberg模