多元线性回归和非线性回归.ppt

《多元线性回归和非线性回归.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、多元线性回归多元线性回归模型(multiplelinearregressionmodel)一个因变量与两个及两个以上自变量的回归描述因变量y如何依赖于自变量x1，x2，…，xp和误差项的方程，称为多元回归模型涉及p个自变量的多元回归模型可表示为b0，b1，b2，，bp是参数是被称为误差项的随机变量y是x1,，x2，，xp的线性函数加上误差项包含在y里面但不能被p个自变量的线性关系所解释的变异性多元线性回归模型(基本假定)1.解释变量x1，x2，…，xp是确定性变量．不是随机变量，且要求样本容量的个数应大于解释变量的个数。2.误差项ε是

2、一个期望值为0的随机变量，即E()=03.对于自变量x1，x2，…，xp的所有值，的方差2都相同4.误差项ε是一个服从正态分布的随机变量，即ε~N(0,2)，且相互独立多元线性回归方程(multiplelinearregressionequation)描述因变量y的平均值或期望值如何依赖于自变量x1，x2，…，xp的方程多元线性回归方程的形式为E(y)=0+1x1+2x2+…+kxpb1，b2，，bp称为偏回归系数bi表示假定其他变量不变，当xi每变动一个单位时，y的平均变动值二元线性回归方程1.表示　保持不变时，　每变动一个单

3、位时的相应变化量.2.表示　保持不变时，　每变动一个单位时的相应变化量.考虑二元线性回归模型二元线性回归方程的直观解释二元线性回归模型(观察到的y)回归面0ix1yx2(x1,x2)}回归参数的估计估计的多元线性回归的方程(estimatedmultiplelinearregressionequation)是估计值是y的估计值用样本统计量估计回归方程中的参数时得到的方程由最小二乘法求得一般形式为参数的最小二乘法求解各回归参数的标准方程如下使因变量的观察值与估计值之间的离差平方和达到最小来求得。即参数的最小二乘法(例题分析)例1生产总值是衡量一

4、个国家地区经济发展的重要指标，影响一个国家或地区生产总值的因素包括资本、资源、科技、劳动力、进出口、国家基础设施建设等方面的因素。本例研究财政支出对生产总值的影响。《中国统计年鉴》把财政支出划分为31个组成部分，本例只选取其中的13个重要支出项。回归系数表用spss软件计算的回归系数如下：参数的最小二乘法需要注意的是，这一回归方程并不理想，回归系数的意义不好解释，这里只是作为多元线性回归参数估计的一例，后边我们还要进一步完善这一模型的建立线性回归方程的某些注意点1样本决定系数2估计标准误差一、多重样本决定系数(multiplecoefficien

5、tofdetermination)对多元回归，总方差同样可分解成如下形式则决定系数为(12.6)(12.7)多重决定系数反映样本回归方程的拟合好坏程度，R２愈大，说明样本回归方程拟合得愈好。显然，.而称y关于　　　　　　　的样本复相关系数，R的大小可以反映作为一个整体的　　　　　　　与y的线性相关的密切程度.修正多重决定系数(adjustedmultiplecoefficientofdetermination)由于样本多重判定系数的分母SST对给定的样本数据是不变的，而SSR与引进回归方程的自变量个数有关.因此，应对R２作调整，调整的样本多重判定

6、系数为(12.8)估计标准误差Sy对误差项的标准差的一个估计值衡量多元回归方程的拟合优度计算公式为回归方程显著性检验线性关系检验（回归方程显著性检验）检验因变量与所有自变量之间的线性关系是否显著也被称为总体的显著性检验检验方法是将回归均方(MSR)同残差均方(MSE)加以比较，应用F检验来分析二者之间的差别是否显著如果是显著的，因变量与自变量之间存在线性关系如果不显著，因变量与自变量之间不存在线性关系线性关系检验提出假设H0：12p=0线性关系不显著H1：1，2，p至少有一个不等于02.计算检验统计量F确定显著性水平和

7、分子自由度p、分母自由度n-p-1找出临界值F4.作出决策：若F>F，拒绝H0方差分析表前面的这些计算结果可以列成表格的形式，称为方差分析表.方差分析表方差来源平方和自由度方差F值回归SSRpSSR/p残差SSEn-p-1SSE/(n-p-1)总和SSTn-1－表中的Sig即为显著性P值，由P值＝0.000（近似值）可知回归方程十分显著。即可以以99.9％以上的概率断言所有自变量全体对因变量产生显著线性影响。对例1回归方程的检验:回归系数显著性检验线性关系检验通过后，对各个回归系数有选择地进行一次或多次检验对每一个自变量都要单独进行检验应用t

8、检验统计量回归系数的检验(步骤)提出假设H0：bi=0(自变量xi与因变量y没有线性关系)H1：bi0(自变量xi与因变量y有线性关系