多重线性回归课件.ppt

《多重线性回归课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、多重线性回归分析医学统计学教研室柳伟伟2一、方法简介1.2概念用回归方程定量地刻画一个因变量与多个自变量之间的线性依存关系，称为多重线性回归分析（multiplelinearregressionanalysis）。自变量是相互独立的连续型变量或分类变量。一、方法简介1.3数据结构表1进行多重线性回归分析资料的数据结构3编号X1X2…XkY1X11X12…X1kY12X21X22…X2kY2：：：：：nXn1Xn2…XnkYn4二、基本原理2.1原理简介多重线性回归模型：Y=b0+b1X1+b2X2+…+bkXk+e其中，bj(j=0,1,2…,k)为未知参数，e为随机误差项。5二、基本

2、原理2.1原理简介多重线性回归模型中包含多个自变量，它们同时对因变量Y发生作用。若要考察一个自变量对Y的影响，就必须假设其他自变量保持不变。6二、基本原理2.1原理简介因此，多重线性回归模型中的回归系数为偏回归系数。它反映的是当模型中的其他自变量不变时，其中一个自变量对因变量Y的均值的影响。7二、基本原理2.2前提条件多重线性回归分析要求资料满足线性(Linear)、独立性(Independence)、正态性(Normality)和方差齐性(Equalvariance)。除此之外，还要求多个自变量之间相关性不要太强。8二、基本原理2.2前提条件线性——指自变量与因变量之间的关系是线性的

3、独立性——指各观测值之间是相互独立的正态性——指自变量取不同值时，因变量服从正态分布方差齐性——指自变量取不同值时，因变量的方差相等9三、分析步骤1.基本任务求出模型中参数的估计值，对模型和参数进行假设检验；对自变量进行共线性诊断，对观测值进行异常点诊断；结合统计学知识和专业知识，对回归方程进行合理的解释，并加以应用。10三、分析步骤2.具体步骤2.1回归参数估计多重线性回归分析的参数估计，常采用最小二乘法(OLS)进行。该方法使残差平方和达到最小，从而得出模型参数估计值表示Y的估计值11三、分析步骤2.具体步骤2.2模型检验根据方差分析的思想，将总的离均差平方和SS总分解为回归平方和

4、SS回和残差平方和SS残两部分。SS总的自由度为n-1，SS回的自由度为k，SS残的自由度为n-k-1。12三、分析步骤2.具体步骤2.2模型检验13三、分析步骤2.具体步骤2.2模型检验模型的显著性检验步骤为：第一步，建立检验假设。H0：b1=b2=…=bk=0H1:b1,b2,…,bk不同时为014三、分析步骤2.具体步骤2.2模型检验第二步，计算统计量F的值。15三、分析步骤2.具体步骤2.2模型检验第三步，确定P值，下统计学结论。根据检验统计量F的值和自由度，确定其对应的P值。若P>a，则接受H0，认为回归模型的系数全部为0；若P

5、全为0。16三、分析步骤2.具体步骤2.3参数检验回归方程有统计学意义，可以说明整体上自变量对Y有影响，但并不意味着每个自变量对因变量的影响都有统计学意义。17三、分析步骤2.具体步骤2.3参数检验考察各个自变量对因变量的影响，即检验其系数是否为0。若某自变量对因变量的影响无统计学意义，可将其从模型中删除，重新建立回归方程。18三、分析步骤2.具体步骤2.3参数检验对自变量Xi的系数是否为0进行假设检验，步骤为：第一步，建立检验假设。H0：bi=0H1:bi≠019三、分析步骤2.具体步骤2.3参数检验第二步，计算检验统计量。20三、分析步骤2.具体步骤2.3参数检验第三步，确定P值。

6、根据自由度和临界水平，查t分布表，可得双侧界值为ta/2(n-k-1)。21三、分析步骤2.具体步骤2.3参数检验若t>ta/2(n-k-1)或t<-ta/2(n-k-1)，则P

7、能地不漏掉重要的自变量；二要尽可能地减少自变量的个数，保持模型的精简。24三、分析步骤2.具体步骤2.4变量筛选常用的变量筛选方法有以下8种：前进法后退法逐步回归法最大R2增量法最小R2增量法R2选择法修正R2选择法Mallow’sCp选择法25三、分析步骤2.4.1前进法(FORWARD)回归方程中变量从无到有依次选择一个自变量进入回归方程，并计算该变量对应的F统计量及P值。当P小于纳入标准(规定的选变量进入方程的临界水平)，则该变量入选，否