资源描述:
《第八章 多元回归分析-异方差》由会员上传分享,免费在线阅读,更多相关内容在应用文档-天天文库。
1、第八章多元回归分析——异方差•模型y=β+βx+βx+...βx+u01122kk•什么是异方差•异方差有什么影响•异方差情况下的方差•对异方差的检验•加权的最小二乘法什么是异方差•前面的同方差的假设,隐含着扰动项u的方差条件于解释变量是常数•如果这个假设不成立,即对于x的不同的值u的方差不同,那么扰动项就是异方差•例如:估计教育的回报率时,能力是不可观察的因素,因此可能的情况是能力的方差随教育程度不同而不同异方差的例子f(y
2、x)y.E(y
3、x)=β+βx..01xxxx123异方差有什么影响?•OLS估计在没有同方差假设的情况下仍然是无偏和一致的•但是在
4、异方差的情况下标准差的估计是有偏的•如果标准差的估计有偏我们就不能利用t统计量或F统计量或LM统计量来做检验推论异方差情况下的方差,,ˆ∑(xxii−)u在简单的情况下ββ=+所以112∑()xxi−22ˆ
5、,∑()xxii−σ2Var()β1xix==2其中SST∑()xi−xSSTx22在σσ≠时方差的估计应该是i22∑()xxii−uˆ,其中uˆ是OLS回归中的残差2iSSTx异方差情况下的方差(续)在一般多元回归的模型中,在异方差情况下Var()βˆ的估计值应该是j2ˆˆˆ∑ruˆˆijiVar()βji=2,其中rj是用xj对SSTj其它所有解释变
6、量做回归时的第i个残差,SST是该回归中的残差的平方和j稳健的标准差•既然我们有了方差的一致估计,方差的平方根就可以用来进行检验推论了•通常把这称为稳健的标准差•有时我们用方差的估计值乘以n/(n–k–1),来纠正自由度带来的估计偏差•但当n→∞时两者是相等的稳健的标准差(续)•需要注意的是,这种稳健的标准差只有在大样本的情况下才适用,在小样本的情况下用稳健的标准差构造出来的t统计量的分布与t分布相差较远,用来做检验是不对的•在Eview软件中,可以通过稳健的标准差计算t统计量。一个稳健的LM统计量•首先做一个满足限制条件的OLS回归,记回归的残差为ŭ•用每
7、一个被排出的变量对所有的被加入的解释变量做回归(q个不同的回归),记这些回归的残差分别为:ř,ř,…,ř12q•定义一个恒等于1的变量,用该变量对řŭ,ř12ŭ,…,řŭ做没有截距项的回归q•这样LM统计量就等于“n–SSR”,其中SSR11是最后一个回归中残差的平方和异方差检验•实际上我们需要检验H:Var(u
8、x,x,…,x)012k=2,也就是H:E(u2
9、x,x,…,x)=E(u2)=σ012k2σ•如果假设u2和x之间是线性关系,我们可以j把零假设当成一个线性条件来检验•因此对于u2=δ0+δ1x1+…+δkxk+v;也就是检验H:δ=δ=…=δ=
10、0012kBreusch-Pagan检验•虽然我们观察不到扰动项,但是我们可以用OLS回归把残差估计出来•用得到的残差的平方项对所有的x回归之后,就可以用R2构造F统计量或者LM统计量来进行检验•其中F统计量就是软件中报告出来的检验整个回归的显著性的统计量,F=[R2/k]/[(1–R2)/(n–k–1)],该统计量呈F分布k,n–k-1•其中的LM统计量可由LM=nR2得到,该统计量服从χ2分布kWhite检验•Breusch-Pagan检验能检验出任何线性形式的异方差•而White检验则能够通过加入所有解释变量的平方项和交叉项来检验非线性形式的异方差•检
11、验的方法仍然是利用F统计量和LM统计量来检验x,x2和xx的联合显著性jjjh•但这可能很快就变得不易把握White检验的其它形式•假设OLS回归的拟合值ŷ是所有解释变量x的方程•因此ŷ2是解释变量的平方项和交叉项的函数,ŷ和ŷ2可以用作x,x2和xx的代理变量jjjh•因此,用残差项对ŷ和ŷ2做回归,然后用回归结果中的R2来构造F或者LM统计量•注意,这里只用检验两个限制条件加权的最小二乘法•虽然我们能够得到OLS估计的稳健的标准差,但是如果我们知道其中异方差的具体形式,就能够得到比OLS更有效的估计•基本的思想是将存在异方差的模型转换成同方差的模型,这称
12、为加权的最小二乘法成常数的倍数形式的异方差•假设异方差可以用模型表示为Var(u
13、x)=2σh(x),其中的关键技巧是判断h(x)≡hi的函数形式•E(u/√h
14、x)=0,因为h仅仅是x的函数。iii且根据Var(u
15、x)=2σhi,我们有Var(u/√h
16、x)=σ2ii•因此,如果我们将方程的两边都除以√h,就可以将原方程转变成一个同方差i的模型广义最小二乘法•以上用最小二乘法估计转化成同方差后的模型就是一个广义最小二乘法的例子(GLS)•GLS在这个例子中就是最优的线性无偏估计(BLUE)•GLS是一种加权的最小二乘法,其中的每一个残差的平方项都乘以了V
17、ar(u
18、x)的倒数ii做为权重加权的最小二乘法•虽