资源描述：
《小二乘法ols和线回归模型》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、第二章 最小二乘法（OLS） 和线性回归模型1本章要点最小二乘法的基本原理和计算方法经典线性回归模型的基本假定BLUE统计量的性质t检验和置信区间检验的原理及步骤多变量模型的回归系数的F检验预测的类型及评判预测的标准好模型具有的特征2第一节最小二乘法的基本属性一、有关回归的基本介绍金融、经济变量之间的关系，大体上可以分为两种：（1）函数关系：Y=f(X1,X2,….,XP)，其中Y的值是由Xi（i=1,2….p）所唯一确定的。（2）相关关系:Y=f(X1,X2,….,XP)，这里Y的值不能由Xi（i=1,2….p）精确的唯一确定。3图2
2、-1货币供应量和GDP散点图4图2-1表示的是我国货币供应量M2（y）与经过季节调整的GDP（x）之间的关系（数据为1995年第一季度到2004年第二季度的季度数据）。5但有时候我们想知道当x变化一单位时，y平均变化多少，可以看到，由于图中所有的点都相对的集中在图中直线周围，因此我们可以以这条直线大致代表x与y之间的关系。如果我们能够确定这条直线，我们就可以用直线的斜率来表示当x变化一单位时y的变化程度，由图中的点确定线的过程就是回归。6对于变量间的相关关系，我们可以根据大量的统计资料，找出它们在数量变化方面的规律（即“平均”的规律），这
3、种统计规律所揭示的关系就是回归关系（regressiverelationship）,所表示的数学方程就是回归方程（regressionequation）或回归模型（regressionmodel）。7图2-1中的直线可表示为（2.1）根据上式，在确定α、β的情况下，给定一个x值，我们就能够得到一个确定的y值，然而根据式（2.1）得到的y值与实际的y值存在一个误差（即图2-1中点到直线的距离）。8如果我们以ｕ表示误差，则方程（2.1）变为：即：其中t（=1,2,3,…..,T）表示观测数。（2.2）（2.3）式（2.3）即为一个简单的双变量
4、回归模型（因其仅具有两个变量x,y）的基本形式。9其中yt被称作因变量（dependentvariable）、被解释变量（explainedvariable）、结果变量（effectvariable）；xt被称作自变量（independentvariable）、解释变量（explanatoryvariable）、原因变量（causalvariable）10α、β为参数（parameters）,或称回归系数（regressioncoefficients）；ｕt通常被称为随机误差项（stochasticerrorterm）,或随机扰动项（ra
5、ndomdisturbanceterm）,简称误差项，在回归模型中它是不确定的，服从随机分布（相应的，yt也是不确定的，服从随机分布）。11为什么将ｕt包含在模型中？（1）有些变量是观测不到的或者是无法度量的，又或者影响因变量yt的因素太多；（2）在yt的度量过程中会发生偏误，这些偏误在模型中是表示不出来的；（3）外界随机因素对yt的影响也很难模型化，比如：恐怖事件、自然灾害、设备故障等。12二、参数的最小二乘估计(一)方法介绍本章所介绍的是普通最小二乘法（ordinaryleastsquares,简记OLS）;最小二乘法的基本原则是：最
6、优拟合直线应该使各点到直线的距离的和最小，也可表述为距离的平方和最小。假定根据这一原理得到的α、β估计值为、，则直线可表示为。13直线上的yt值，记为，称为拟合值（fittedvalue）,实际值与拟合值的差，记为，称为残差（residual），可以看作是随机误差项的估计值。根据OLS的基本原则，使直线与各散点的距离的平方和最小，实际上是使残差平方和（residualsumofsquares,简记RSS）最小，即最小化：RSS==（2.4）14根据最小化的一阶条件，将式2.4分别对、求偏导，并令其为零，即可求得结果如下:（2.5）（2.6
7、）15（二）一些基本概念1.总体（thepopulation）和样本（thesample）总体是指待研究变量的所有数据集合，可以是有限的，也可以是无限的；而样本是总体的一个子集。2、总体回归方程（thepopulationregressionfunction，简记PRF），样本回归方程（thesampleregressionfunction，简记SRF）。16总体回归方程（PRF）表示变量之间的真实关系，有时也被称为数据生成过程（DGP），PRF中的α、β值是真实值，方程为：+（2.7）样本回归方程（SRF）是根据所选样本估算的变量之间的
8、关系函数，方程为：注意：SRF中没有误差项，根据这一方程得到的是总体因变量的期望值（2.8）17于是方程（2.7）可以写为：（2.9）总体y值被分解为两部分：模型拟合值（）和残差项（）。183
