教育与心理统计线性回归拓展知识----多重线性回归

《教育与心理统计线性回归拓展知识----多重线性回归》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、在回归分析中，如果对两个或两个以上的自变量对因变量影响现象进行分析，这就叫做多重线性回归。一、多重线性回归模型的建立设因变量为y，自变量为x1和x2，则回归方程的一般形式为＝a+b1X1+b2X2。b1和b2叫做Y对X1与X2的偏回归系数。偏回归系数表示其它自变量假设不变时，某一个自变量变化而引起因变量变化的比率。在此模型中，b1的意义为：假设X2不变，X1变化一个单位则Y改变b1个单位。[附例1]所求的回归方程中看如果b1>b2，不能就判定自变量X1，在预测Y时起的作用大。因为两个自变量的单位不同，不能直接比较它们在估计Y时的贡献。若要进行这种比

2、较，需将原始数据分别转换成标准分数，以标准分数建立的回归方程叫标准回归方程。一般形式为：ZY＝β1ZX1+β2ZX2。做了标准化变换，排除了量纲不同的影响，所以可以根据标准化回归系数的大小评价自变量对Y的贡献大小，β2>β1，所以可以认为X2对Y的影响比X1更大。二、多重线性回归方程的检验(一)方差分析（二）偏回归系数的显著性检验某一个偏回归系数不显著时回归方程可能仍然显著，因而在多重线性回归的检验中方差分析是对整个回归方程的显著性检验，是整体的检验，与单独进行每个偏回归系数的显著性检验不一定等效。就是说经方差分析，结果回归方程显著，但回归方程中每

3、一个偏回归系数不一定都显著。（三）测定系数测定系数R2开方后得R，它表示因变量Y与k个自变量线性组合之间的相关，叫复相关系数。可以通过复相关系数的显著性检验来对回归方程进行检验，复相关系数显著则回归方程也显著。查附表11可对复相关系数的显著性进行检验。三、多重线性回归中的预测区间四、多重回归方程中自变量的选择在多重线性回归方程中，有些自变量的偏回归系数显著，也有些自变量的偏回归系数不显著。这意味着凭经验选取的自变量中有的在回归方程中作用显著，有的却无足轻重，而最优的回归方程，应该方程显著且每个自变量的偏回归系数都显著。因此，为了建立最优的回归方程，

4、需要对自变量进行选择，作用不显著的自变量不必进入回归方程。一般选择自变量，建立最优回归方程的方法有如下几种。1、最优方程选择法：即从所有可能的自变量组合建立的回归方程中选择最优的。2、同时分析法：是将所有的预测变量同时纳入回归方程中估计因变量。它又区分为强制进入法和强制淘汰法。强制进入法是在某一显著水平下，将所有对于因变量具有解释力的预测变量纳入回归方程式，不考虑预测变量间的关系，计算所有变量的回归系数。与强迫进入法相反，强制淘汰法的原理是在某一显著水平下，将所有对于因变量没有解释力的预测变量，不考虑预测变量间的关系，一次全部排除在回归方程式之外，

5、再计算所有保留在回归方程式中的预测变量的回归系数。3、逐步分析法：是指所有的预测变量并非同时被用来进行预测，而是依据解释力的大小，逐步检查每一个预测变量的影响。根据预测变量的选取顺序，把它又分为顺向进入法和反向淘汰法。顺向进入法在取用预测变量时，优先选用具有最大预测力且达统计显著水平的自变量，然后依序纳入方程式中，直到所有达到显著的预测变量均被纳入回归方程式.相反，反向淘汰法把所有预测变量先按同时分析法方式纳入回归方程式中运算，然后逐步将未达到统计显著水准的预测变量，以最弱、次弱的顺序从方程式中予以排除。直到所有未达到显著的预测变量均被淘汰完毕为止

6、。4、逐步回归法逐步回归法的基本原理和过程是：按各个自变量对因变量作用的大小，从大到小逐个地引入回归方程。每引入一个自变量都要对回归方程中每一个自变量的作用进行显著性检验，若发现作用不显著的自变量时，就将其剔除。每剔除一个自变量后，再对留在方程中的自变量作显著性检验，若发现又有的自变量变得不显著时接着再剔除。这样逐个地引进或剔除，直至没有自变量可引入也没有自变量从方程式中被剔除时为止。这种方法是心理学研究中最常用的方法。5、阶层分析法在一般研究中，预测变量之间可能具有特定的先后关系，需要依照研究者的设计，以特定的顺序进行分析。五、多重线性回归的基本

7、假设线性、独立、等方差和正态性假设，此时的正态性假设是指在给定一组X后，Y的条件分布为正态分布。WARNING:①在多重回归分析中，若自变量间存在相关性，称为多重共线性，回归分析应避免严重的多重共线性存在。②在心理和教育研究中经常进行追踪实验，这时的Y变量与时间的积累有关，自身之间并不独立，后一个数据是在前一个数据基础上积累的。这种情况违背了“各个Y值子总体彼此独立”的基本假设，因而不宜使用前面所介绍的回归分析方法。