数理统计05第五讲 估计量的优良性准则

《数理统计05第五讲 估计量的优良性准则》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第五讲估计量的优良性准则（续）一、一致最小方差无偏估计（续）二、信息不等式三、相合估计一、一致最小方差无偏估计（续）定理4.3(Lehmann-Scheffe)设S(x)是完全充分统计量，(x)是q()的无偏估计，则T(x)E((x)

2、S(x))是q()的UMVUE，进一步，如果对所有，Var(T(x)),则T(x)是q()唯一的UMVUE。注：Lehmann-Scheffe定理实际上给出了两种寻找UMVUE的方法，但首先必须知道完全充分统计量T(x)。（1）若h(T(x))是q()无偏统计量，则h(T(

3、x))也是q()的UMVUE。即寻找完全充分统计量的函数使之成为q()的无偏估计。（2）若能获得q()的一个无偏估计量(x)，则E((x)

4、T(x))就是q()的UMVUE。2例4.5设总体X服从正态分布N(,)，2(,)未知，x,x,,x是来自总体的12n2样本。求参数和的UMVUE。解首先求完全充分统计量。由于21(x)p(x,)exp22221212e2expxx22221由于w,的值域包含内点，所以由222定理4.

5、2可知完全充分统计量为nn2T(x)(xi,xi).i1i11n而我们已经知道xx是的无偏估计，ini12且是完全充分统计量T(x)的函数，故当未知时，的UMVUE为x。2注：无论是已知或未知，x都是的UMVUE。1n1n又S2(xx)2x2nx2iin1i1n1i12是的无偏估计，且是完全充分统计量T(x)的函数，2故当未知时，的UMVUE为样本2方差S。22注：当已知时，S不是的UMVUE。例4.6设总体X在[0,]上服从均匀分布，其中是未知参数,x1,x2

6、,,xn是来自总体的样本,试求参数的UMVUE。解由于1,0xx,p(x,x,,x;)n(1)(n)12n0,otherwise.1II()xn(xx()n){0(1)}由因子分解定理可知xmax{x,x,,x}(n)12n它是充分统计量。下证它也是完全的。n由P{xt}P{xt}可知x的密度函数为(n)1(n)nn1nt0tp(t;),0otherwise对任何函数g(t)及0，由nn1E(g(x))ng(t)tdt0(n)0n1可

7、得对所有的0,有g(t)tdt0,这个只0有在g(t)0时才能成立，因而x也是完全的。(n)nnn又因为E(x)tdt,(n)n0n1所以的无偏估计为(n1)ˆx,(n)n且是完全充分统计量x的函数，故它就是的(n)UMVUE。二、信息不等式在上一节，我们知道如果UMVUE存在，则它在无偏估计类中是最好的，且其方差不可能是零，因为参数q()的方差为零的平凡估计不是无偏估计。那么，现在的问题是：对q()的无偏估计类U，在一定的条件下，q（1）既然无偏估计的方差不是零，则必存在一个下界，这个下界到

8、底是多少？（2）若UMVUE存在，那么它的方差是否可以达到这个下界？问题（1）已由Cramer-Rao不等式（信息不等式）揭示；问题（2）不一定成立，我们举例予以阐述。为了使问题简化，在这一小节中，我们仅讨单参数和连续总体情况。对多参数及离散总体也有相应结论，可参看《高等数理统计学》（茆诗松），或《线性统计推断及应用》（C.R.Rao）。设分布族为{P,}，密度函数为p(x,)，为直线上的一个开区间。满足下述条件的分布族{P,}称为Cramer-Rao正则族：（1）支撑A{x:p(x,)0}与无关，且对任

9、一xA,,偏导数lnp(x,)存在。（2）如果对所有，T(x)是满足E

10、T

11、任一统计量，则对T(x)p(x,)，积分和微分可交换次序，即T(x)p(x,)dxdx1nT(x)p(x,)dxdx1n当仅有（1）成立时，我们可以定义所谓的Fisher信息量（FisherInformationNumber）2I()Elnp(x,)(0I())例4.7设总体分布是Poisson分布族，即xp(x,)e,x

12、0,1,.x!x则lnp(x,)1,x2x1因而I()E(1)Var().如果X,X,,X是来自总体的样本，可以证12n2明I()nI()，其中I()E(lnp(X,)).111定