计量经济学讲义-3--第一章 线性回归基础.doc

《计量经济学讲义-3--第一章 线性回归基础.doc》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第三部分线性回归分析第一章线性回归基础4最小二乘原理计量经济学最关心的理论模型是类似于表示变量之间的关系。1.散点图为了弄清楚变量之间的关系，我们从画出他们的散点图开始比较好。从画的图中我们可以大体上判断以下变量之间是呈直线关系，还是二次曲线关系。这对准确建立模型很有帮助。模型代表只要我们知道，我们就可以完全知道。但是现实中不是这样。这时除了系统因素之外，还有其他别的因素影响。此时我们用确率模型来表示。其中，是被说明变量，或从属变量；是说明变量，或独立变量；是误差项，也可以叫做搅乱项。2.函数的设定与参数的意义不同的模型定义，它所定义的参数的意义不同。为简单起见，在

2、本节中，我们先省去误差项。我们讨论一下参数的意义。在中，，意味着发生一单位的变化时，相应地变化几个单位，也就是我们所熟悉的限界消费性向。但是对于来说，我们先两边取自然对数，，这时，，其中，，结果。代表变化1%时，变化%单位。也就是弹力性。3.最小二乘法3-1．基本符号样本平均偏离样本平均的平方和；其中，，小写代表偏离样本平均的程度，即偏差。偏差有以下重要性质：；4第三部分线性回归分析第一章线性回归基础证明：=0我们可以同样证明。下面我们再看看。我们用同样的方法可以求出。3-2．最小二乘原理我们定义的推定线为，其中和分别代表和的推定值，读为ha.to。当时，。观察值与

3、推定值之间的差，我们称之为残差(residual)。在图中，用垂直于横轴的线段来表示。即，，代表观察时点t时，观察值与推定值的不一致的程度。为了评价所有的观察时点，的不一致程度，我们用作为衡量的尺度。我们把称为残差平方和(residualsumofsquares,RSS)。但是我们不能用，和作为衡量不一致程度的工具。因为与观察值无关，只要给出足够大的，，和可以任意地变小。也就是说它们没有最小值。但是，确不一样。的值与有关。所以我们只要找到使得最小的最为4第三部分线性回归分析第一章线性回归基础的推定值。这就是最小二乘法。3-2．最小二乘推定量的导出对于模型来说，的最小

4、二乘推定量为，它们是使得残差平方和最小的的推定值。两边平方前面我们曾经提到，进一步我们可以得到，我们用偏差平方和的写法把上面的残差平方和再重新改写一下，上式的右侧第三项中不含有，所以第三项不会随着的变化而变化。第一项和第二项由都是平方的形式，因此只要第一项和第二项同时为0的是时候，残差平方和就为最小，也就是残差平方和为0。4第三部分线性回归分析第一章线性回归基础由此我们可以得到，这种求最小二乘推定量方法的优点是，不需要使用偏微分方法，也不需要讨论为使残差平方和最小而必须满足的二次条件。1.最小二乘回归线我们把称为最小二乘回归线或样本回归线。我们把代入样本回归线中，我

5、们发现，由此我们可以判断样本回归线经过样本平均点。2.练习题1).使用下面的数据，用最小二乘法估计模型。X61117813Y13524。第一种方法：x6111781355sum(x)y1352415sum(y)xy633851652192sum(xy)xx3612128964169679sum(xx);=-1.01另外一种求法：先求出均值；求出smallx,y;再求出；；4