资源描述：
《概率论与数理统计第七章-1矩估计法和极大似然估计法》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、§7.1矩估计法和极大似然估计法点估计的概念矩估计法极大似然估计法第一节点估计一、点估计问题的提法二、估计量的求法三、小结一、点估计问题的提法设总体X的分布函数形式已知,但它的一个或多个参数为未知,借助于总体X的一个样本来估计总体未知参数的值的问题称为点估计问题.例1解用样本均值来估计总体的均值E(X).点估计问题的一般提法二、估计量的求法由于估计量是样本的函数,是随机变量,故对不同的样本值,得到的参数值往往不同,如何求估计量是关键问题.常用构造估计量的方法:(两种)矩估计法和最大似然估计法.1
2、、矩估计法矩估计法是英国统计学家K.皮尔逊19世纪末20世纪初提出来的.由辛钦定理,若总体的数学期望存在,其中为连续函数理论依据定义用样本原点矩估计相应的总体原点矩,用样本原点矩的连续函数估计相应的总体原点矩的连续函数,这种参数点估计法称为矩估计法.矩估计法的具体做法如下设总体的分布函数中含有k个未知参数,那么它的前k阶矩,一般从这k个方程中解出j=1,2,…,k那么用诸的估计量Ai分别代替上式中的诸,例1设总体X在[a,b]上服从均匀分布,a,b未知.是来自X的样本,试求a,b的矩估计量.解即
3、解得于是a,b的矩估计量为样本矩总体矩解例2设总体X的均值和方差都存在,未知.是来自X的样本,试求的矩估计量.解得于是的矩估计量为样本矩总体矩例3解：矩法的优点是简单易行,并不需要事先知道总体是什么分布.缺点是，当总体类型已知时，没有充分利用分布提供的信息.一般场合下,矩估计量不具有唯一性.其主要原因在于建立矩法方程时，选取哪些总体矩用相应样本矩代替带有一定的随意性.2、最大似然估计法它是在总体类型已知条件下使用的一种参数估计方法.它首先是由德国数学家高斯在1821年提出的.GaussFishe
4、r然而,这个方法常归功于英国统计学家费歇.费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质.最大似然估计法的基本思想先看一个简单例子：一只野兔从前方窜过.是谁打中的呢？某位同学与一位猎人一起外出打猎.如果要你推测，只听一声枪响，野兔应声倒下.你可能会想，只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率.看来这一枪是猎人射中的.这个例子所作的推断已经体现了极大似然估计法的基本思想.最大似然估计原理：定义似然函数为：设(X1，X2，…，Xn)是取自总体X的一个样本，(x1，
5、x2，…，xn)是其观察值.这里x1,x2,…,xn是样本的观察值.总体X是离散型随机变量，其分布中含有未知参数，则取到这组样本观察值的概率是X1,X2,…,Xn独立同分布似然函数：最大似然估计法就是用使达到最大值的去估计.称为的最大似然估计值.看作参数的函数，它可作为将以多大可能产生样本值x1,x2,…,xn的一种度量.而相应的统计量称为的最大似然估计量（MLE）.同理，设总体X是连续型随机变量，密度函数为，其中是未知参数。则定义似然函数为：其中x1,x2,…,xn是样本的观察值.如果称为的最
6、大似然估计值.称为的最大似然估计量.两点说明：1、求似然函数L()的最大值点，可以应用微积分中的技巧。由于ln(x)是x的增函数,lnL()与L()在的同一值处达到它的最大值，假定是一实数，且lnL()是的一个可微函数。通过求解方程：可以得到的MLE.若是向量，上述方程必须用方程组代替.2、用上述求导方法求参数的MLE有时行不通，这时要用最大似然原则来求.下面举例说明如何求极大似然估计例4设X1,X2,…Xn是取自总体X~B(1,p)的一个样本，求参数p的极大似然估计量.解：似然函数为:对数似然
7、函数为：对p求导并令其为0，=0得即为p的最大似然估计值.从而p的最大似然估计量为求最大似然估计(MLE)的一般步骤是：(1)写出似然函数L();(2)取对数lnL()解得到的MLE.如果总体分布中的未知参数不止一个，设有k个未知参数，则此时似然函数为离散型连续型称分别为的最大似然估计.为的最大似然估计值.为的最大似然估计量.例5设总体X~N(),未知.是来自X的样本值,试求的最大似然估计量.似然函数为解X的概率密度为于是令解得的最大似然估计量为例6设总体X~,求的最大似然估计和矩估计。解：（1
8、）X的密度函数所以似然函数（2）解例7解：似然函数为例8设X1,X2,…Xn是取自总体X的一个样本其中>0,求的最大似然估计.i=1,2,…,n对数似然函数为解：似然函数为i=1,2,…,n=0(2)由(1)得=0(1)对分别求偏导并令其为0,对数似然函数为用求导方法无法最终确定用最大似然原则来求.对是故使达到最大的即的MLE于是取其它值时，即为的MLE.且是的增函数四、课堂练习1.设总体X的概率密度为其中是未知参数,X1,X2,…,Xn是取自X的样本,求参数的矩估计.解样本矩总体矩解得的矩估计
