《多重线性回归分析》PPT课件

《《多重线性回归分析》PPT课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第十一章多重线性回归分析2内容基本原理方法简介分析步骤几点补充3一、方法简介1.1分析目的与方法选择研究一个因变量与一个自变量间的线性关系时简单线性回归分析研究一个因变量与多个自变量间的线性关系时多重线性回归分析4一、方法简介1.2概念用回归方程定量地刻画一个因变量与多个自变量之间的线性依存关系，称为多重线性回归分析（multiplelinearregressionanalysis）。自变量是相互独立的连续型变量或分类变量。一、方法简介1.3数据结构表1进行多重线性回归分析资料的数据结构5编号X1X2…XkY1X11X12…X1kY12X21X22…X2kY2：：：

2、：：nXn1Xn2…XnkYn6二、基本原理2.1原理简介多重线性回归模型：Y=b0+b1X1+b2X2+…+bkXk+e=bX+e其中，bj(j=0,1,2…,k)为未知参数，e为随机误差项。7二、基本原理多重线性回归模型中包含多个自变量，它们同时对因变量Y发生作用。若要考察一个自变量对Y的影响，就必须假设其他自变量保持不变。因此，多重线性回归模型中的回归系数为偏回归系数。它反映的是当模型中的其他自变量不变时，其中一个自变量对因变量Y的均值的影响。8二、基本原理2.2前提条件多重线性回归分析要求资料满足线性(Linear)、独立性(Independence)、正态

3、性(Normality)和方差齐性(Equalvariance)，即LINE条件。除此之外，还要求多个自变量之间相关性不要太强。9二、基本原理2.2前提条件线性——指自变量与因变量之间的关系是线性的独立性——指各观测值之间是相互独立的正态性——指自变量取不同值时，因变量服从正态分布方差齐性——指自变量取不同值时，因变量的方差相等10三、分析步骤1.基本任务求出模型中参数的估计值，对模型和参数进行假设检验；对自变量进行共线性诊断，对观测值进行异常值诊断；结合统计学知识和专业知识，对回归方程进行合理的解释，并加以应用。11三、分析步骤2.具体步骤2.1回归参数估计多重线

4、性回归分析的参数估计，常采用最小二乘法(OLS)进行。参数估计值为：12三、分析步骤2.具体步骤2.2模型检验根据方差分析的思想，将总的离均差平方和SS总分解为回归平方和SS回和残差平方和SS残两部分。SS总的自由度为n-1，SS回的自由度为k，SS残的自由度为n-k-1。SS总=SS回归+SS残差SS总(总平方和)v总=n-1{SS回归(回归平方和)v回归=1{SS残差(残差平方和)v残差=n-p-1{v总=v回归+v残差自变量的个数14三、分析步骤2.具体步骤2.2模型检验模型的显著性检验步骤为：第一步，建立检验假设。H0：b1=b2=…=bk=0H1:b1,b

5、2,…,bk不同时为015三、分析步骤第二步，计算统计量F的值。第三步，确定P值，下统计学结论。根据检验统计量F的值和自由度，确定其对应的P值。若P>a，则接受H0，认为回归模型的系数全部为0；若P

6、进行假设检验，步骤为：第一步，建立检验假设。H0：bi=0H1:bi≠018三、分析步骤第二步，计算检验统计量。第三步，确定P值。根据自由度和临界水平，查t分布表，可得双侧界值为ta/2(n-k-1)。若t>ta/2(n-k-1)或t<-ta/2(n-k-1)，则P

7、析步骤这就是自变量的选择问题，或称为变量筛选。选择时，一要尽可能地不漏掉重要的自变量；二要尽可能地减少自变量的个数，保持模型的精简。就回归方程而言，每个变量均有两种可能性，即被选择或被踢除。所以，所有可能的模型有2k个(k为自变量个数)。自变量个数较多时，计算量过大。此时，需要一定的变量筛选方法。全局择优法变量筛选逐步选择法校正决定系数R2选择法Cp选择法前进法后退法逐步回归法c22三、分析步骤2.4.1前进法(FORWARD)回归方程中变量从无到有依次选择一个自变量进入回归方程，并根据该变量在回归方程中的Ⅱ型离差平方和(SS2)计算F统计量及P值。当P小于sl