资源描述：
《参数估计-矩法和极大似然法》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、参数估计参数估计点估计区间估计参数的点估计点估计概念求估计量的方法小结总体样本统计量描述作出推断研究统计量的性质和评价一个统计推断的优良性，完全取决于其抽样分布的性质.随机抽样现在我们来介绍一类重要的统计推断问题参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数.参数估计估计IC废品率估计电子产品的重量估计湖中鱼数……估计降雨量在参数估计问题中，假定总体分布形式已知，未知的仅仅是一个或几个参数.Chip这类问题称为参数估计.参数估计问题的一般提法X1,X2,…,Xn要依据该样本对参数作出估计,或估计的某个已知函数.现从该总体抽样，得样本设有一个统计总体,总体的分布函数
2、为F(x,)，其中为未知参数(可以是向量).（假定平均面积服从正态分布）设这5个数是:1.651.671.681.781.69单位mm2估计为1.68，这是点估计.这是区间估计.估计在区间[1.57,1.84]内，例如我们要估计某批芯片的平均面积.现从该总体选取容量为5的样本，我们的任务是要根据选出的样本（5个数）求出总体均值的估计.而全部信息就由这5个数组成.一、点估计概念随机抽查100笔记本电脑,…得100个数据10,7,6,6.5,5,5.2,…（磅）呢?据此,我们应如何估计和而全部信息就由这100个数组成.例1已知某批笔记本电脑的重量,未知为估计:我们需要构造出适当的样本的函数T(X1
3、,X2,…Xn)，每当有了样本，就代入该函数中算出一个值，用来作为的估计值.把样本值代入T(X1,X2,…Xn)中，估计值.T(X1,X2,…Xn)称为参数的点估计量，得到的一个点我们知道,若,由大数定律,自然想到把样本重量的平均值作为总体平均重量的一个估计.样本重量的平均值则.用样本重量的均值估计.类似地，用样本重量的方差估计.使用什么样的统计量去估计？可以用样本均值;也可以用样本中位数;还可以用别的统计量.问题是:二、寻求估计量的方法1.矩估计法2.极大似然法3.最小二乘法4.贝叶斯方法……这里我们主要介绍前面两种方法.最大似然法它是在总体类型已知条件下使用的一种参数估计方法.它首先是由德
4、国数学家高斯在1821年提出的.GaussFisher然而,这个方法常归功于英国统计学家费歇.费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质.最大似然法的基本思想先看一个简单例子：一只野兔从前方窜过.是谁打中的呢？某位同学与一位猎人一起外出打猎.如果要你推测，你会如何想呢?只听一声枪响，野兔应声倒下.你就会想，只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率.看来这一枪是猎人射中的.这个例子所作的推断已经体现了极大似然法的基本思想.最大似然估计原理：当给定样本X1,X2,…Xn时，定义似然函数为：设X1,X2,…Xn是取自总体X的一个样本，样本的联合密度(连续型）或
5、联合分布律(离散型)为f(x1,x2,…,xn;).f(x1,x2,…,xn;)这里x1,x2,…,xn是样本的观察值.似然函数：最大似然估计法就是用使达到最大值的去估计.称为的最大似然估计值.看作参数的函数，它可作为将以多大可能产生样本值x1,x2,…,xn的一种度量.f(x1,x2,…,xn;)而相应的统计量称为的最大似然估计量.两点说明：1、求似然函数L()的最大值点，可以应用微积分中的技巧。由于ln(x)是x的增函数,lnL()与L()在的同一值处达到它的最大值，假定是一实数，且lnL()是的一个可微函数。通过求解方程：可以得到的MLE.若是向量，上述方程必须用方程组代替.2、用上述求
6、导方法求参数的MLE有时行不通，这时要用最大似然原则来求.下面举例说明如何求最大似然估计L(p)=f(x1,x2,…,xn;p)例5设X1,X2,…Xn是取自总体X~B(1,p)的一个样本，求参数p的最大似然估计量.解：似然函数为:对数似然函数为：对p求导并令其为0，=0得即为p的最大似然估计值.从而p的最大似然估计量为(4)在最大值点的表达式中,用样本值代入就得参数的最大似然估计值.求最大似然估计(MLE)的一般步骤是：(1)由总体分布导出样本的联合分布率(或联合密度);(2)把样本联合分布率(或联合密度)中自变量看成已知常数,而把参数看作自变量,得到似然函数L();(3)求似然函数L()的
7、最大值点(常常转化为求lnL()的最大值点)，即的MLE;例设总体X~N(),未知.是来自X的样本值,试求的最大似然估计量.似然函数为解X的概率密度为于是令解得的最大似然估计量为解：似然函数为例设X1,X2,…Xn是取自总体X的一个样本其中>0,求的最大似然估计.i=1,2,…,n对数似然函数为解：似然函数为i=1,2,…,n=0(2)由(1)得=0(1)对分别求偏导并令其为0,对数似然函数为用求
