第十一章 多元线性回归和相关分析

《第十一章 多元线性回归和相关分析》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第十一章多元线性回归和相关分析第一节多元回归分析¡依变量依两个或两个以上自变量的回归，称为多元回归或复回归(multipleregression)¡主要内容：1、确定各个自变量对依变量的综合效应和单独效应，即建立由各自变量描述和预测依变量反应量的多元回归方程；2、对上述综合效应和单独效应的显著性进行测验，建立最优多元回归方程；评价各自变量对依变量的相对重要性。一、多元回归方程¡1、多元回归的线性模型和多元回归方程式¡一个m元线性回归总体的线性模型为：¡yj=b0+b1x1j+b2x2j+…+bmxmj+ej¡其中，ej~N(0,se2)¡一个m元线性

2、回归样本观察值的组成为：¡yj=b0+b1x1j+b2x2j+…+bmxmj+ej¡同理一个m元线性回归方程可给定为：¡b0是x1、x2、…、xm都为0时y的点估计值；¡b1是by1.23…m的简写，它是在x2，x3，…，xm皆保持一定时（取常量），x1每改变一个单位时对y的效应，称为x2，x3，…，xm不变时，x1对y的偏回归系数（partialregressioncoefficient）。2、多元回归统计数的计算¡多元线性回归资料的数据结构如下表：¡m个自变量与依变量y的回归方程为：根据最小二乘法原理，b0、b1、b2、……bm应使全部观察值y与

3、回归估计值的偏差平方和为最小，即使根据微分学中的极值原理，分别对b0、b1、b2、……bm偏导，并令其为0，即¡该方程组称为正规方程组，可尽一步化为Nb0+b1Sx1+b2Sx2+b3Sx3+……+bmSxm=Syb0Sx1+b1Sx12+b2Sx1x2+b3Sx1x3+……+bmSx1xm=Sx1yb0Sx2+b1Sx1x2+b2Sx22+b3Sx2x3+……+bmSx2xm=Sx2y…………b0Sxm+b1Sx1xm+b2Sx2xm+b3Sx3xm+……+bmSxm2=Sxmy¡写成矩阵形式：AbB系数矩阵偏回归系数矩阵常数项矩阵即Ab=B系数矩

4、阵A=X¢X，n组数据的称为结构矩阵或数据矩阵这样一来，正规方程组的矩阵形式是(X¢X)b=X¢Y或Ab=B其中b¢=(b0,b1,b2,…bm)是正规方程组中的未知数。在系数矩阵满秩的条件下(这个条件在一般情况是容易满足的)，A的逆阵存在，因而b=A-1B=(X¢X)-1X¢YC=A-1=(X¢X)-1称为相关矩阵¡(例11.1)通过12个北方春玉米杂交种的测定数据(见表11.3)，研究在相同密度下每穗粒数(X1，粒)、百粒重(X2，g)、株高(X3，cm)与每公顷玉米籽粒产量(Y，kg/hm2)的关系。试建立每穗总粒数、百粒重、株高对每公顷玉米产

5、量的多元线性回归方程；¡解：用矩阵法求解多元线性回归方程¡①写出结构矩阵或数据矩阵X及依变量列矩阵Y¡②利用公式A=X¢X，B=X¢Y，求得系数矩阵A和常数项矩阵B¡③求系数矩阵A的逆矩阵C④求解偏回归系数矩阵b=(b0、b1、b2、…、bm)′¡即b0=–2829.29147072，b1=14.94880992，b2=238.15014040，b3=–15.29653995¡⑤写出线性回归方程¡式中：自变量X1对应的偏回归系数b1=14.9，表明在百粒重(X2)、株高(X3)保持平均水平(=Σx2/n=403/12=33.55g；=Σx3/n=34

6、01/12=283.4cm)时，每穗总粒数(X1)每增加1(粒)，将使每公顷玉米籽粒产量(Y)平均增加14.9(kg)；¡同理，b2=238.2，表明在每穗总粒数(X1)、株高(X3)保持平均水平(=Σx1/n=6177/12=514.8粒;=283.4cm)时，百粒重(X2)每增加1(g)，将使每公顷玉米产量(Y)平均增加238.2(kg)；b3=–15.3，表明在每穗总粒数(X1)、百粒重(X2)保持平均水平(=514.8粒;=33.55g)时，株高(X3)每增加1(cm)，将使每公顷玉米产量(Y)平均减少15.3(kg)。如果此回归关系是真实的

7、(见下文)，则该方程可用于描述表11.3的资料。但是，推断的量值处在观察值区间之内，才是可信的。X1的区间是[455.0，594.5]，X2的区间是[24.1，40.3]，X3的区间是[268，294]。二、多元线性回归的假设检验¡1、多元回归方程的假设检验¡检验m个自变量综合对Y的效应是否显著,即检验各自变量的总体偏回归系数bj(j=1，2，…，)是否同时为零。¡①总变异平方和及自由度分解。自由度dfY=n–1¡SSY=UY/12···m+QY/12···m¡dfY=dfU+dfQ¡其中，离回归平方和（或剩余平方和）=Y¢Y–b¢(X¢Y)¡自由度

8、dfQ=n–(m+1)¡它与自变量X无关，仅反映除依变量与m个自变量间存在线性关系以外的其他因素包括试验误差