资源描述：
《极大似然估计法的探究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。
1、极大似然估计法的探究邵雨晴(伊犁师范学院数学与统计学院新疆伊宁835000)摘要：极大似然估计是参数估计的一种常用方法，木文主要探讨了极大似然估计法的原理及其四种方法、步骤和性质，并举例说明了这些方法在解决实际问题中的应用.关键词：极大似然估计；参数估计；似然函数中图分类号：()212文献标识码：A引言由于极大似然估计法的渐近最优性，它已成为参数估计的一种常用方法，在众多领域得到广泛的应用，例如语音处理、图像处理模型识别等.它是建立在极大似然原理基础上的一个统计方法，并且所得到的极大似然估计具有良好的性质：相合性、存在性、不变性等.用微
2、分法求参数的极大似然估计并不是唯一的方法，以下又以例题的方式给出另外三种求极大似然估计的方法.二、预备知识2.1理论基础2.1.1极大似然估计的背景极大似然估计最早是由高斯(C.F.Gauss)提出的，后来为费希尔(R.A.Fisher)在1912年的文章［7］屮重新提出，并且证明了这个方法的一些性质.极大似然估计这一名称也是费希尔给的.极大似然估计原理的直观想法是：一个随机试验如若有若干个可能的结果A,B，C，...，在一次试验中，结果A出现，则一般认为试验条件对A出现有利，也即A出现的概率很大.先看一个简单的例子，某位同学与一位猎人
3、一起外出打猎，一只野兔从前方窜过.只听一声枪响，野兔应声到下，如果要你推测，这一发命中的子弹是谁打的？你就会想，只发一枪便打中，由于猎人命中的概率一般大于这位同学命中的概率，看来这一枪是猎人射中的.这个例子所作的推断就体现了极大似然法的基本思想.2.1.2极大似然估计法的基本原理随机试验£有《个可能结果々，牟，…，人，现在进行一次试验，结果為发生了，在一次试验中，概率越大越有可能发生，人们自然认为事件在这n个可能结果中出现的概率八A,.)最大.将这种想法用于参数估计，设…，么为取自具有概率函数的：和叫的母体f的一个子样.子样…，么的联合
4、概率密度函数在$取己知观测值七，/=1,20^2时的值••/(»)是沒的函数.我们用£(沒)=£(沒;《¥1，％2，."，',)表示，称为这个子样的似然函数.于是=£(^;xpx2,---,xw)=/(xWU2;60…的(1)下面分别就离散型母体和连续型母体情形做具体讨论.(1)离散型母体的情形：如果€是离散型母体，给出观测到、&，…,弋的概率.因此，可以把L(/9;w…，x„)看成为观测到％,，％2，…，x„时出现什么样的<9的可能性的一个测度.所以我们只耍寻找观测值xpa，…，的函数6=，…，x„),以6代沒使八[(伏A，x2,…，
5、xj=supi(沒;xpa:2,…，)(2)6te0成立.满足(2)式的我^…人广就是最可能产生久么…人的参数权的值.我们称永W..,x，,)为参数沒的极大似然估计值，其相应的统计量我$，么…义)为参数沒的极大似然估计量.(2)连续型总体的情形：如果f是连续型，/(xWeG)表示密度函数.于是子样H••忒落入点(久%2，…，')的邻域内的概率为fj/(%#)△+，同样是沒的函数，既然(ww)再一次抽样中出现，当然可以认为子样，…，么落在(xpx2，…，%,,)的邻域内的概率达到最大.所以我们只要找出使达到最大的权的值我^&，由于Ar,
6、是不依赖于权的增量，我们也只需求i使得/=1达到极大的我便可得到极大似然估计.综上所述知，连续型母体的参数的极大似然估计同样可以用(1)与(2)两式表示.由于lnx是x的单调增函数，使八InL(6^;xpx2<-s^)=supIn(3)典©成立的6也使(2)成立.所以有时我们只耍从(3)中去求6就可以了.定义：若对任意给定的样本值X,，x2，…，％,,，存在，…，)，使£(6)=maxL(0)，6则称，…，x„)为沒的最大似然估计值.称相应的统计量我W，…，为沒的最大似然估计量.他们统称为0的最大似然估计.2.1.2多元正态分布极大似
7、然估计考虑p元正态总体X□Nz,(/z,Z),设；^=%，•••〜/(/=1，…，/t)为/?元正态总体X的简单随机样本，此时观测数据阵为：x=A11蠡參參…•••K.)•••…x”p4)是一个随机阵.以不用最大似然估计法求参数//，2的最大似然估计.把随机数据阵X按行拉直后形成的M维长向量Wc(JT)的联合密度函数看成未知参数的函数，并称为样本％(7//=1，…，zi)的似然函数，记为L(//，Z):"1r1L(^X)=JJ(2;r)/,/2
8、Ei/2exP~2(x(o一A)2_l()—A)(2兀)'1/7/2Z?TexP—zl?又
9、⑴—芦)(2兀Yp/2以2exp_;[tr((x(/)-//OG)_//))(2^rZ2sn/2exp[-2^tr(z"1(x
