统计学贾俊平第12章 多元线性回归ppt课件.ppt

《统计学贾俊平第12章 多元线性回归ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第12章多元线性回归12.1多元线性回归模型12.2回归方程的拟合优度12.3显著性检验12.4多重共线性12.5利用回归方程进行预测12.6变量选择与逐步回归12.7回归知识拓展引例回归模型线性非线性2+解释变量单个多个1解释变量线性非线性引例3引例4引例12.1多元线性回归模型基本思想思想多元回归MultipleRegressionModels用来分析一个以上自变量对于因变量的影响，可以看出在其它变量不变（常数）的条件下，某一个变量对于依变量产生的净（偏）影响如何？这三条线的斜率似乎没有原本回归线来

2、得大，表示努力与成绩的关系有一部份是受到兴趣的干扰(confounding):有兴趣的学生通常花比较多的时间基本思想8多元回归模型与多元回归方程总体Y-截距总体斜率随机误差项Relationshipbetween1dependent&2ormoreindependentvariablesisalinearfunction因(反应)变量自(解释)变量多元线性回归多元回归模型与多元回归方程系数解释第k个斜率系数(slope,k)在所有其它X变量固定下,Xk改变一个单位时,平均Y改变k的量Y-截距(0)

3、，在Xk=0时,Y的期望值多元回归模型与多元回归方程基本假定误差项ε是一个期望值为0的随机变量，即E()=0对于自变量x1，x2，…，xk的所有值，的方差2都相同误差项ε是一个服从正态分布的随机变量，即ε~N(0,2)，且相互独立多元回归模型与多元回归方程总体回归函数（PRF)Bivariatemodel观测值期望值X2YX1β0ResponsePlane(X1i,X2i)(ObservedY)εi多元回归模型与多元回归方程样本回归函数(SRF)X2YX1b0iResponsePlane(X1i

4、,X2i)(ObservedY)ei^多元线性回归模型的估计最小二乘法使因变量的观察值与估计值之间的离差平方和达到最小来求得。即求解各回归参数的标准方程如下多元线性回归模型的估计求MinimumQ?将(1)式分别对做偏微分，再将所得之方程式设为零，然后求解联立方程式即可求得最小值多元线性回归模型的估计经典假定+没有完全共线性multicollinearity:itisnotpossibletofindasetofnumbersc0,c1,…cksuchthatTheGauss-MarkovTheorem

5、Ifthebasicassumptionshold，最小二乘估计是BLUE（最优线性元偏估计量）多元线性回归模型的估计Toocomplicatedbyhand!Ouch!Coefficients标准误差tStatP-valueLower95%Intercept31.66671.299924.36030.000028.4859努力0.02500.00406.32460.00070.0153兴趣1.00000.088411.31370.00000.7837dfSSMSFSignificanceF回归分析

6、21287.50643.75309.000.0000残差612.502.08总计81300.00回归统计MultipleR0.9952RSquare0.9904AdjustedRSquare0.9872标准误差1.4434观测值9多元线性回归模型的估计EXCEL求解1812.2回归方程的拟合优度拟合优度多重判定系数用来衡量回归方程式的配合度或解释力拟合优度调整多重判定系数（AdjustedRsquare）用样本量n和自变量的个数k去修正R2得到计算公式避免增加自变量而高估意义与R2类似数值小于R2拟合优

7、度估计标准误差对误差项的标准差的一个估计值衡量多元回归方程的拟合优度计算公式为12.3显著性检验拟合优度检验拟合优度检验（MeasuringGoodnessoffit）在复回归中，可利用Ｆ检验回归方程式中所有的自变量对于依变量Y是否有联合的解释能力Ｈ0：回归方程式无解释能力H1:回归方程式有解释能力(不全为零）拟合优度检验Reject误差来源平方和SS自由度d.f方差F回归ESSkMSR=SSR/kF=MSR/MSE误差RSSn-k-1MSE=SSE/(n-k-1)总和TSSn-1Coefficie

8、nts标准误差tStatP-valueLower95%Intercept31.66671.299924.36030.000028.4859努力0.02500.00406.32460.00070.0153兴趣1.00000.088411.31370.00000.7837dfSSMSFSignificanceF回归分析21287.50643.75309.000.0000残差612.502.08总计81300.00回归统计MultipleR0.9