多元线性回归模型的统计检验

《多元线性回归模型的统计检验》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、§3.3多元线性回归模型的统计检验一、拟合优度检验二、方程的显著性检验(F检验)三、变量的显著性检验（t检验）四、参数的置信区间一、拟合优度检验1、可决系数与调整的可决系数总离差平方和的分解2TSS=Σ(Y−Y)则i2=Σ((Y−Yˆ)+(Yˆ−Y))iii22=Σ(Y−Yˆ)+2Σ(Y−Yˆ)(Yˆ−Y)+Σ(Yˆ−Y)iiiiii由于∑(Yi−Yˆ)(Yˆi−Y)=∑ei(Yˆi−Y)=βˆ0∑ei+βˆ1∑eiX1i+⋯+βˆk∑eiXki+Y∑ei=0所以有：22TSS=(Y−Yˆ)+(Yˆ−Y)=RSS+ESS∑ii∑i注意：一个有趣的现象(Y

2、−Y)=(Y−Yˆ)+(Yˆ−Y)iiii222(Y−Y)≠(Y−Yˆ)+(Yˆ−Y)iiii222∑(Y−Y)=∑(Y−Yˆ)+∑(Yˆ−Y)iiii可决系数2ESSRSSR==1−TSSTSS该统计量越接近于1，模型的拟合优度越高。问题：在应用过程中发现，如果在模型中增加一个解释变量，R2往往增大（Why?)这就给人一个错觉：要使得模型拟合得好，只要增加解释变量即可。但是，现实情况往往是，由增加解释变量个数引起的R2的增大与拟合好坏无关，R2需调整。调整的可决系数（adjustedcoefficientofdetermination）在样本容量一定的

3、情况下，增加解释变量必定使得自由度减少，所以调整的思路是:将残差平方和与总离差平方和分别除以各自的自由度，以剔除变量个数对拟合优度的影响:2RSS/(n−k−1)R=1−TSS/(n−1)其中：n-k-1为残差平方和的自由度，n-1为总体平方和的自由度。22n−1R=1−(1−R)n−k−1*2、赤池信息准则和施瓦茨准则为了比较所含解释变量个数不同的多元回归模型的拟合优度，常用的标准还有:赤池信息准则（Akaikeinformationcriterion,AIC）e′e2(k+1)AIC=ln+nn施瓦茨准则（Schwarzcriterion，SC）e′

4、ekAC=ln+lnnnn这两准则均要求仅当所增加的解释变量能够减少AIC值或AC值时才在原模型中增加该解释变量。Eviews的估计结果显示：中国居民消费一元例中：AIC=6.68AC=6.83中国居民消费二元例中：AIC=7.09AC=7.19从这点看，可以说前期人均居民消费CONSP(-1)应包括在模型中。二、方程的显著性检验(F检验)方程的显著性检验，旨在对模型中被解释变量与解释变量之间的线性关系在总体上是否显著成立作出推断。1、方程显著性的F检验即检验模型Yi=β0+β1X1i+β2X2i+…+βkXki+µii=1,2,…,n中的参数βj是否显

5、著不为0。可提出如下原假设与备择假设：H0：β0=β1=β2=…=βk=0H1：βj不全为0F检验的思想来自于总离差平方和的分解式：TSS=ESS+RSS由于回归平方和是解释变量X的联合体对被解释变量Y的线性作用的结果，考虑比值如果这个比值较大，则X的联合体对Y的解释程度高，可认为总体存在线性关系，反之总体上可能不存在线性关系。因此,可通过该比值的大小对总体线性关系进行推断。ESS/RSS根据数理统计学中的知识，在原假设H0成立的条件下，统计量ESS/kF=RSS/(n−k−1)服从自由度为(k,n-k-1)的F分布给定显著性水平α，可得到临界值Fα(k

6、,n-k-1)，由样本求出统计量F的数值，通过F>Fα(k,n-k-1)或F≤Fα(k,n-k-1)来拒绝或接受原假设H0，以判定原方程总体上的线性关系是否显著成立。对于中国居民人均消费支出的例子：一元模型：F=285.92二元模型：F=2057.3给定显著性水平α=0.05，查分布表，得到临界值：一元例：Fα(1,21)=4.32二元例：Fα(2,19)=3.52显然有F>Fα(k,n-k-1)即二个模型的线性关系在95%的水平下显著成立。2、关于拟合优度检验与方程显著性检验关系的讨论由2RSS/(n−k−1)与F=ESS/kR=1−TSS/(n−1)

7、RSS/(n−k−1)可推出：2n−1R=1−n−k−1+kF2R/k或F=2(1−R)/(n−k−1)•在中国居民人均收入-消费一元模型中，•在中国居民人均收入-消费二元模型中，三、变量的显著性检验（t检验）方程的总体线性关系显著≠每个解释变量对被解释变量的影响都是显著的因此，必须对每个解释变量进行显著性检验，以决定是否作为解释变量被保留在模型中。这一检验是由对变量的t检验完成的。1、t统计量由于2−1Cov(βˆ)=σ(X′X)以cii表示矩阵(X’X)-1主对角线上的第i个元素，于是参数估计量的方差为：2Var(βˆ)=σciii其中σ2为随机误差

8、项的方差，在实际计算时，用它的估计量代替:22∑eie′eσˆ==n−k−1n−