上海海事大学 概率论 第七章 参数估计(1)

《上海海事大学 概率论 第七章 参数估计(1)》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第七章参数估计在参数估计问题中，假定总体分布形式已知，未知的仅仅是一个或几个参数。例如：估计大学生的平均身高参数估计问题的一般提法现从该总体抽样，得样本设有一个统计总体，总体的分布函数向量).为F(x,)，其中为未知参数(可以是（X1,X2,…,Xn）要依据该样本对参数作出估计，或估计的某个已知函数。这类问题称为：参数估计参数估计点估计区间估计例1已知某地区大学生的身高X~随机抽查100个大学生得100个身高数据。呢?据此,我们应如何估计和§1点估计为估计,我们需要构造出适当的样本的函数T(X1,X2

2、,…Xn)，每当有了样本，就代入该函数中算出一个值，用来作为的估计值.T(X1,X2,…Xn)称为参数的点估计量，把样本值代入T(X1,X2,…Xn)中，得到的一个点估计值。请注意，被估计的参数是一个未知常数，而估计量T(X1,X2,…Xn)是一个随机变量，是样本的函数,当样本取定后，它是个已知的数值,这个数常称为的估计值。问题是:使用什么样的统计量去估计？寻求估计量的方法：1.矩估计法2.极大似然法3.最小二乘法4.贝叶斯方法……1.矩估计法矩估计法是英国统计学家K.皮尔逊最早提出的基于一种简单的“

3、替换”思想建立起来的一种估计方法.其基本思想是用样本矩估计总体矩。记总体k阶矩为样本k阶矩为记总体k阶中心矩为样本k阶中心矩为用相应的样本矩去估计总体矩的估计方法就称为矩估计法。理论依据:大数定律一般地,设总体Xf(x;θ),其中,求参数θ的矩估计的一般步骤为:1.令2.解:其中3.得最常用的是：!!!!p151例2设总体X的概率密度为是未知参数,其中X1,X2,…,Xn是取自X的样本,求参数的矩估计.解:从中解得的矩估计.即为得：由矩法,例3设X1,X2,…Xn是取自总体X的一个样本其中>0,求的

4、矩估计.解:？EX:例1矩法的优点是简单易行,并不需要事先知道总体是什么分布。缺点是，当总体类型已知时，没有充分利用分布提供的信息.一般场合下,矩估计量不具有唯一性。例如:总体X~,A1,B2都是的矩估计。2.极大似然法在总体类型已知条件下使用的一种参数估计方法。它首先是由德国数学家Gauss在1821年提出的,Fisher在1922年重新发现了这一方法，并首先研究了这种方法的一些性质。极大似然法的基本思想：即，已发生的事件具有最大概率。极大似然原理先看一个简单例子：在军训时，某位同学与一位教官同时射

5、击，而在靶纸上只留下一个弹孔。如果要你推测，是谁打中的呢？你会如何想呢?若X为离散型总体：已发生的事件为：其概率为：我们的任务是：若X为连续型总体：已发生的事件为：其概率为：我们的任务是：称为似然函数称满足的为的极大似然估计值。称为的极大似然估计量（MLE）.例4设总体X~b(1,p),X1,…,Xn是一个样本，求参数p的极大似然估计.解：X01P1-pp例5设总体其中>0,求的极大似然估计.解：!在总体分布中，把概率函数(或密度)中自变量看成已知常数,而把参数θ看作自变量导出似然函数L(θ);求极大

6、似然估计（MLE）的一般步骤：求似然函数L(θ)的最大值点(常常转化为求lnL(θ)的最大值点)，即θ的MLE;在最大值点的表达式中,用样本代入就得参数θ的极大似然估计量两点说明1、求似然函数L()的最大值点，通过求解似然方程：得到的MLE。若是向量，上述方程必须用似然方程组代替。2、用上述求导方法求参数的MLE有时行不通，这时要用极大似然原理来求。解：例6设总体其中参数未知，使用极大似然估计法求的估计量。例7其中>0,求的极大似然估计。解：i=1,2,…,ni=1,2,…,n(1)(2)由(1)得?

7、!是的增函数故使达到最大的即的MLE，{{极大似然估计的一个性质:设的函数g=g()是上的实值函数,且有唯一反函数。如果是的极大似然估计，则g()也是g()的极大似然估计。例8一罐中装有白球和黑球，有放回地抽取一个容量为n的样本，其中有k个白球，求罐中黑球与白球之比R的极大似然估计.解:显然X~b(1,p)，由例4