普通最小二乘法(OLS).docx

《普通最小二乘法(OLS).docx》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、精品文档普通最小二乘法（OLS）普通最小二乘法（OrdinaryLeastSquare，简称OLS），是应用最多的参数估计方法，也是从最小二乘原理出发的其他估计方法的基础，是必须熟练掌握的一种方法。在已经获得样本观测值yi,xi（i=1,2,⋯,n）的情况下（见图2.2.1中的散点），假如模型（2.2.1）的参数估计量^^已经求得到，为0和1，并且是最合理的参数估计量，那么直线方程（见图2.2.1中的直线）^^^yi01xii=1,2,⋯,n(2.2.2)^应该能够最好地拟合样本数据。其中yi为被解释变量的估计值，它是由参数估计量和解释变量的观测值

2、计算得到的。那么，被解释变量的估计值与观测值应该在总体上最为接近，判断的标准是二者之差的平方和最小。n1xi)2ui2Q(yi0Q(0,1)i12n2n??2?Q???yyxminQ(,)uy00100,11iiii1i11(2.2.3)为什么用平方和？因为二者之差可正可负，简单求和可能将很大的误差抵消掉，只有平方和才能反映二者在总体上的接近程度。这就是最小二乘原则。那么，就可以从最小二乘原则和样本观测值出发，求得参数估计量。由于n^Q(yiyi)21n^^＝(yi(01xi))21^^^是0、1的二次函数并且非负，所以其极小值总是存在的。根据罗彼

3、塔法则，当Q对0、^1的一阶偏导数为0时，Q达到最小。即。1欢迎下载精品文档Q000?0,1Q?1(2.2.4)01容易推得特征方程：n(yii1nxi(yii1解得：0?0,1?0?1xi)?0?1xi)?1yiy?iei0xiei0yin^^xi01yixi^xi^xi201（2.2.5）nnnn?nxiyi(xi)(yi)(xix)(yiy)i1i1i1i11nn2n所以有：nxi2(xi)(xix)2（2.2.6）i1i1i1?0y?1x于是得到了符合最小二乘原则的参数估计量。为减少计算工作量，许多教科书介绍了采用样本值的离差形式的参

4、数估计量的计算公式。由于现在计量经济学计算机软件被普遍采用，计算工作量已经不是什么问题。但离差形式的计算公式在其他方面也有应用，故在此写出有关公式，不作详细说明。记1xxin1yyinxixixyiyiy。2欢迎下载精品文档（2.2.6）的参数估计量可以写成nxiyi?t11nxi2(2.2.7)?t1y?01x至此，完成了模型估计的第一项任务。下面进行模型估计的第二项任务，即求随机误差项方差的估计量。记eiuiyiyii个样本观测点的残差，即被解释变量的估计??为第值与观测值之差。则随机误差项方差的估计量为?u2ei2(2.2.8)n2在关于?2

5、的无偏性的证明中，将给出（2.2.8）的推导过程，有兴趣的读者可以参考u有关资料。在结束普通最小二乘估计的时候，需要交代一个重要的概念，即“估计量”和“估计值”的区别。由（2.2.6）给出的参数估计结果是由一个具体样本资料计算出来的，它是一个“估^^计值”，或者“点估计”，是参数估计量0和1的一个具体数值；但从另一个角度，仅仅^^的一个表达式，那么，则是yi的函数，而yi是随机变量，所以^把（2.2.6）看成0和10^^和1也是随机变量，在这个角度上，称之为“估计量”。在本章后续内容中，有时把0和^^^1作为随机变量，有时又把0和1作为确定的数值，

6、道理就在于此。。3欢迎下载精品文档欢迎您的下载，资料仅供参考！致力为企业和个人提供合同协议，策划案计划书，学习资料等等打造全网一站式需求。4欢迎下载