多变量回归分析(计量经济学,南开大学)

《多变量回归分析(计量经济学,南开大学)》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第三章多变量回归分析第一节多变量线性回归模型一、多变量线性回归模型的PRF如果假定对因变量Y有k-1个解释变量：X2，X3，…，Xk，k变量总体回归函数为：其中1为常数项，2~2为解释变量X2~Xk的系数，u为随机干扰项。总体回归函数PRF给出的是给定解释变量X2~Xk的值时，Y的期望值：E(Y

2、X2，X3，…，Xk)。假定有n组观测值，则可写成矩阵形式：二、多变量线性回归模型的基本假定随机干扰项的期望值为0。同方差性；无序列相关。无多重共线性，即Xi(i=2,3,…,k)之间不存在线性关系：随机干扰项服从正态分布

3、。三、多变量线性回归模型的SRF根据残差的平方和最小化的原理，解出参数的估计量。第二节多变量回归模型的OLS估计一、参数估计可得到如下正规方程组：如果直接用矩阵微分，则二、的估计量三、的方差-协方差矩阵四、OLS估计量的性质：第三节拟合优度检验：一、判定系数R2：平方和df均方差ESSk-1RSSn-kTSSn-1方差分析表（ANOVA)二、校正的R2：由R2的计算式可看出，R2随解释变量的增加而可能提高（不可能降低）：与解释变量X的个数无关，而则可能随着解释变量的增加而减少（至少不会下降），因而，不同的SRF，得到的R

4、2就可能不同。必须消除这种因素，使R2即能说明被解释的离差与总离差之间的关系，又能说明自由度的数目。定义校正的样本决定系数：三、R2与的性质第四节显著性检验一、单参数的显著性检验：如果接受H0，则变量Xi对因变量没有影响，而接受H1，则说明变量Xi对因变量有显著影响。检验的显著性，即在一定显著水平下，是否显著不为0。检验步骤：如果根据理论或常识，非负，则可做单侧检验，比较t与tα。二、回归的总显著性检验：检验回归系数全部为零的可能性。平方和df均方差ESSk-1RSSn-kTSSn-1方差分析表（ANOVA)显然，R2越

5、大，F越大，当R2=1时，F无限大。选择显著水平α，计算F统计量的值，与F分布表中的临界值进行比较：第五节解释变量的选择在回归模型中的解释变量，除非由明确的理论指导或其他原因，在选择上具有一定的主观性，如何正确选择解释变量是非常重要的。一、解释变量的边际贡献分析在建立回归模型时，假定我们顺序引入变量。在建立了Y与X2的回归模型，并进行回归分析后，再加入X2。考虑加入的变量X2是否有贡献：能否再加入后显著提高回归的解释程度ESS或决定系数R2。ESS提高的量称为变量X2的边际贡献。决定一个变量是否引入回归模型，就要先研究它

6、的边际贡献，以正确地建立模型。如果变量的边际贡献较小，说明改变量没有必要加入模型。分析变量的编辑贡献，可以使用方差分析表为工具，根据变量引入前、后的RSS的变化量及其显著性检验（扣除原来引入模型的解释变量的贡献），确定该变量的边际贡献是否显著。一个简单的检验方法，就是对引入新变量后的RSS增量与新的ESS的比值做显著性检验。可以利用方差分析表来进行分析。设ESS为引入变量前的回归平方和，ESS’为引入m个新变量后，得到的回归平方和，RSS’为引入变量后的残差平方和。ANOVA表如下：平方和自由度均方差引入变量前的ESSU

7、1k-1U1/(k-1)引入变量后的ESSU2k+m-1U2/(k+m-1)添加变量的边际贡献(U2-U1)m(U2-U1)/m添加变量后的RSSQn-(k+m)Q/(n-k-m)TSSn-1在新引入变量的系数为0的原假设下，把计算出的该统计量的值与α显著水平下的临界值进行比较：引入的新变量的边际贡献显著，则应该把这些变量纳入回归模型，否则这些变量不应引入回归模型做解释变量。二、逐步回归法如果根据理论，因变量Y与k-1个变量X2，X2，…，Xk有因果关系，我们要建立的回归模型要在这些变量中选择正确的解释变量，要根据变量的

8、边际贡献大小，把贡献大的变量纳入回归模型。分析边际贡献并选择变量的过程，实际上是一个逐步回归的过程。首先，分别建立Y与k-1个变量X2，X2，…，Xk的回归模型：回归后，得到各回归方程的平方和选择其中ESS最大并通过F检验的变量作为首选解释变量，假定是X2。此时可确定一个基本的回归方程：在此基础上进行第二次回归，在剩下的变量中寻找最佳的变量：建立k–2个回归方程：回归后，得到各回归方程的平方和：同样，选择其中ESS最大并通过F检验的变量作为新增解释变量，假定是X3。此时可确定一个基本的回归方程：重复这一过程，直到所有变量

9、中，边际贡献显著的变量全部引入回归模型中为止，得到最终的回归式：也可以采用逐步减少边际贡献不显著的变量的方式，逐步回归确定回归模型包括的变量，方法一样。第六节利用多元回归模型进行预测对于多元回归模型：通过回归分析，得到回归方程后，就可根据给定的解释变量的一组值X0=(1,X20，X30，…，Xk0)，对因变量Y的值进