多元回归分析-OLS的渐近性

《多元回归分析-OLS的渐近性》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第五讲多元回归分析：OLS的渐近性MultipleRegressionAnalysis:AsymptoticPropertiesofOLS一、引言二、一致性三、渐近有效性四、渐近正态性一、引言引言回忆：经典线性模型（CLM）的假定引言在上一讲的学习中，有以下结论：如果总体回归模型满足MLR.1-4，OLS估计量是无偏的如果总体回归模型满足MLR.1-5，OLS估计量是有效的，并且OLS估计量是最优线性无偏估计量如果总体回归模型满足MLR.1-6，OLS估计量是最优无偏估计量，而且基于OLS估计构造的某些

2、统计量服从t分布或F分布，从而可以进行假设检验这些性质是针对固定样本容量而言的，然而，当样本容量无限增大时，OLS估计量会呈现出另外一些性质，这些性质称为渐近性质（asymptoticproperties）或大样本性质（largesampleproperties）引言为什么讨论OLS的渐近性质？在现实中，经典线性模型的某些假定很难满足，此时无法保证OLS估计量的无偏性和有效性，也无法进行假设检验，从而OLS方法是失效的。在这种情况下，如果可以通过增加样本容量来使得OLS估计量满足某些合理的性质，那么仍然

3、可以保证使用OLS方法是合适的。换言之，如果随着样本容量的增加，OLS估计量仍然不能令人满意，那就说明不应使用OLS估计方法几类渐近性一致性渐近有效性渐近正态性什么是一致性？OLS的一致性OLS的不一致性二、一致性什么是一致性？一致性（consistence）OLS的一致性OLS的一致性OLS的一致性OLS的一致性：对简单回归模型的简单证明（课本p159）OLS的一致性OLS的一致性：对简单回归模型的简单证明（课本p159）OLS的一致性进一步的讨论（课本p160）上述讨论表明：如果OLS估计量是无偏的

4、，那么它一定是一致的；但是如果OLS估计量是一致的，却不能保证它是无偏的。OLS的不一致性如果误差项与任意一个自变量相关，即Cov(Xj,u)不等于0，那么OLS就是有偏的而且是不一致的。也就是说，即便样本容量再大，OLS估计的偏误也不会消失，而且OLS估计值会收敛到一个有偏误的值（情况更糟糕！）。此时，OLS估计量的不一致性（inconsistency）为：OLS的不一致性遗漏变量的影响（课本p161）前面我们提到过，遗漏变量会使得OLS估计量是有偏的，事实上，这种情况还使得OLS估计量是非一致的例题

5、：课本p161，问题5.1三、渐近有效性渐近有效性我们知道，如果总体回归模型满足MLR.1-5，那么OLS估计量是最优线性无偏估计量。事实上，可以证明在这些假定下，OLS估计量是渐近有效的（asymptoticefficient）。也就是说，随着样本容量无限增大，OLS估计量具有最小的渐近方差（课本p170）。渐近正态性大样本推断四、渐近正态性和大样本推断渐近正态性通过以上讨论，我们知道，如果总体回归模型满足MLR.1-5，那么OLS估计量不但是一致的，也是渐近有效的。但还无法进行假设检验（即推断）在上

6、一讲中，我们知道，如果满足MLR.6，即误差项（或因变量）在给定自变量的值时服从正态分布，那么可以在原假设成立的情况下通过OLS估计量构造一些统计量服从t分布或F分布，从而可以进行推断但是，很多情况下正态性假定很难被满足，此时为了进行推断，必须要借助OLS的渐近正态性（asymptoticnormality），即随着样本量的无限增大，OLS估计量渐近地服从正态分布渐近正态性OLS估计量的渐近正态性大样本推断大样本推断（largesampleinference）OLS估计量的渐近正态性告诉我们，如果样本容

7、量足够大，而且总体回归模型满足MLR.1-5，那么t统计量近似地服从标准正态分布或t分布，从而可以进行t检验。此时，不必要求满足正态性假定如果样本容量足够大，而且总体回归模型满足MLR.1-5，那么通常的F检验也是适用的需要注意的是，进行大样本推断的前提是MLR.5（同方差假定）必须成立大样本推断拉格朗日乘数（LagrangeMultiplier,LM）检验对于大样本数据，可以使用LM检验对多个线性假设进行检验，前提是高斯－马尔科夫假定（MLR.1-5）成立例题5_1：课本p168，例5.3小结本讲定性

8、地讨论了OLS估计量的渐近性质，不要求同学们掌握证明过程和细节问题。重要的是希望大家记住：即便正态性假定不被满足，在大样本情况下，用OLS方法进行参数估计和假设检验仍然是适用的。如此看来，样本容量越大，对OLS方法施加的限制就越少，因此我们应该使用容量足够大的样本。遗憾地是，并没有一个被广泛接受的标准用来判断样本容量到底应该多大才符合渐近性的要求习题5.3C5.3