医学统计学多元逐步回归ppt课件.ppt

《医学统计学多元逐步回归ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、逐步回归1多重线性回归中自变量的确定:根据理论知识根据经验部分自变量的作用不确认，借助统计分析来实现剔除：对问题的研究可能不重要可能实际上与其他变量重叠较大测量误差逐步回归2为何要剔除一部分自变量？自变量太多，信息成本高，模型复杂，不易分析理解高度相关的自变量并不增强模型的预测能力，反而加大回归系数的样本变差，削弱模型的描述能力少而精3逐步回归逐步回归------从m个自变量中选择Ｋ（Ｋ≤m）个自变量，拟合最优或较理想的多元线性回归方程。选出的自变量数应：足够少：对应变量无重要作用的自变量不能多，剔除在方程外充分多：对应变量有重要作用的自变量

2、不能少，保留在方程中4自变量选择准则残差平方和（SS残）与确定系数（R2）残差均方(MS残）与调整确定系数（AdjR2）AIC信息统计量ＣＰ统计量5残差平方和（SS残）以某一自变量Ｘj被引入模型中导致残差平方和的改变量评价在此模型条件下Ｘj对应变量影响程度；引入Ｘj，SS残减少量多，则Ｘj对Ｙ的作用大，可被引入剔除Ｘj，SS残增加量多，则Ｘj对Ｙ的作用大，不应剔除6确定系数（R2）R2=1-SS残/SS总R2与SS残完全相关，作为选择自变量的准则时完全与SS残等价。7SS残与R2如具有p个自变量的某一种组合可使：SS残P与含全部（m个）自变量

3、SS残m接近；R2P与R2m接近则含这p个自变量的方程为“最优”方程但“接近”的标准凭主观确定8SS残与R2SS残、R2值的大小与引入自变量个数有关，随自变量个数的增加SS残减少9SS残与R2SS残值小，R2大缺点：按SS残值小，R2大的原则选择自变量，全部自变量均引入时的模型为较“优”模型，未起到选择自变量作用；SS残变化量准则适用于比较具有相同自变量个数模型优劣的判据，而不适合对变量个数不同的模型的比较。10残差均方(MS残）模型从无自变量开始，按自变量对Y作用大小逐渐引入，当对Y作用大的自变量引入时，SS残减少幅度大于（n-p-1)减少

4、幅度，MS残降低；当模型中自变量增加到一定程度，对Y作用大的自变量已基本引入，再增加自变量，SS残减少幅度小于（n-p-1)减少幅度，MS残增加。11调整确定系数（AdjR2）作为选择自变量的准则，AdjR2与MS残等价。缺点：n很大，AdjR2≈R2，评判效果不佳12AIC信息统计量由日本统计学家Akaike（1974）提出并修正以适合于回归模型选择的准则------Akaike信息量准则（Akaikeinformationcriterion)，简记AIC。最小二乘法下AIC=n.Ln(SS残Ｐ）＋２ＰSS残Ｐ：含P个自变量时的残差平方和。

5、AIC达到最小为准则13ＣＰ统计量Mallows，C.L（1966）提出。：含有P个自变量的残差平方和；：含有全部自变量（m个）的残差平方和14ＣＰ统计量ＣＰ统计量从预测出发，基于残差平方和的一个准则。若含有P个自变量的模型合适，具有较小的ＣＰ值，且ＣＰ接近于P+1的模型为“最优”模型。n大时，ＣＰ准则效果好15自变量选择方法“目的”决定自变量选择方法选择对应变量作最好预报的一组自变量----着眼点是拟合回归方程的一组自变量整体，用该组自变量应使回归方程拟合得最好；选择对应变量作最好解释的主要自变量----着眼点是引入回归方程的一组自变量的每

6、个自变量16自变量选择方法最优子集法向前法向后法逐步法17最优子集法m个自变量，可建立２m-1个不同自变量组合方程，按某一自变量选择准则，从２m-1个方程中选择一个或几个最优的方程。常用自变量选择准则：SS残准则、R2准则、AdjR2准则、ＣＰ准则建议选择：AdjR2准则、ＣＰ准则18最优子集法优点：MS残最小，F最大，回归方程最优；缺点：计算量大，如m＝15，则必须拟合２15-1=32767个子集回归方程来挑选最优，因此该法主要适用于m较小情况当样本含量n小时，结果的重复性差；不能保证：引入回归方程的各自变量都有统计学意义、回归方程外的各自

7、变量都无统计学意义19最优子集法实例输出结果解读(M=3）子集SS残R2MS残AdjR2CPX18774770.48241096840.41775.8226X211123380.34391390420.26188.9866X37947590.5312993450.47264.7079X1.X24964370.7072709190.62352.6885X1.X36459250.6190922750.51014.7026X2.X36541650.6141934520.50394.8136X1.X2.X34453320.7373742220.606

8、04.000020向前法（forwardselection)基本思想０步:方程中无自变量，SS回=0，SS残=SS总；１步：分别建立自变量为X1、X2…Xm的m个回