线性回归分析课件.ppt

《线性回归分析课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第十二章线性回归分析授课教师：杨卫华博士主要内容★1一元线性回归的基本思路和步骤2多元线性回归3SPSS的线性回归操作第一节一元线性回归什么是回归分析？(Regression)从样本数据出发，确定变量的数学关系式；对关系式的可信程度进行统计检验，找到影响某一特定变量显著因素；根据变量的取值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确程度；回归分析的一般步骤重点内容一元线性回归涉及一个自变量的回归；因变量y与自变量x之间为线性关系；因变量(dependentvariable)：被预测或被解释的变量，用y表示。自变量(indep

2、endentvariable)：预测或解释因变量的一个或多个变量，用x表示。因变量与自变量之间的关系用一条线性方程来表示；一元回归的例子人均收入是否会显著影响人均食品消费支出；贷款余额是否会影响到不良贷款；航班正点率是否对顾客投诉次数有显著影响；广告费用支出是否对销售额有显著影响；一元线性回归模型描述因变量y如何依赖于自变量x和误差项的方程称为回归模型一元线性回归模型：y=b0+b1x+ey是x的线性函数(部分)加上误差项线性部分反映了由于x的变化引起的y的变化误差项是随机变量反映了除x和y之间线性关系之外的随机因素对y的影响是不能由x和y

3、之间的线性关系所解释的变异性0和1称为模型的参数一元线性回归模型(基本假定)误差项ε是期望值为0的随机变量，即E(ε)=0。对于一个给定的x值，y的期望值为E(y)=0+1x对于所有的x值，ε的方差σ2都相同误差项协方差等于零，即εi和εj相互独立（i≠j）；误差项ε是服从正态分布的随机变量。即ε~N(0,σ2)回归方程(regressionequation)描述y的平均值或期望值如何依赖于x的方程称为回归方程；一元线性回归方程的形式如下：E(y)=0+1x方程表示一条直线，也称为直线回归方程；0是回归直线在y轴上的截距，是当x=

4、0时y的期望值；1是直线的斜率，称为回归系数，表示当x每变动一个单位时，y的平均变动值；估计的回归方程(estimatedregressionequation)一元线性回归中估计的回归方程为：用样本统计量和代替回归方程中的未知参数和，就得到了估计的回归方程；总体回归参数和是未知的，必须利用样本数据去估计；其中：是估计的回归直线在y轴上的截距，是直线的斜率，它表示对于一个给定的x的值，是y的估计值，也表示x每变动一个单位时，y的平均变动值。普通最小二乘法估计（OLS：OrdinaryLeastSquare)使因变量的观察值与估计值之间的离差平方

5、和达到最小来求得和的方法。即用最小二乘法拟合的直线来代表x与y之间的关系与实际数据的误差比其他任何直线都小最小二乘估计(图示)xy(xn,yn)(x1,y1)(x2,y2)(xi,yi)｝ei=yi-yi＾最小二乘法(和的计算公式)根据最小二乘法的要求，可得求解和的公式如下一元回归方程统计检验的主要内容变差因变量y取值的波动称为变差变差来源于两个方面：由于自变量x的取值不同造成；除x以外的其他因素(如测量误差等)的影响；对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差来表示。变差的分解(图示)xyy{}}

6、离差平方和的分解(三个平方和的意义)总平方和(SST)反映因变量的n个观察值与其均值的总离差；回归平方和(SSR)反映自变量x的变化对因变量y取值变化的影响，是由于x与y之间的线性关系引起的y的取值变化，也称为可解释的平方和；残差平方和(SSE)反映除x以外的其他因素对y取值的影响，也称为不可解释的平方和或剩余平方和；离差平方和的分解(三个平方和的关系)SST=SSR+SSE总平方和(SST){回归平方和(SSR)残差平方和(SSE){{判定系数R2(coefficientofdetermination)回归平方和占总离差平方和的比例反映回归

7、方程的拟合程度；取值范围在[0,1]之间；R21，说明回归方程拟合的越好；R20，说明回归方程拟合的越差；一元线性回归中，判定系数等于y和x相关系数的平方，即R2＝(r)2；线性关系的检验检验所有自变量与因变量之间的线性关系是否显著；将均方回归(MSR)同均方残差(MSE)加以比较，应用F检验来分析二者之间的差别是否显著；均方回归：回归平方和SSR除以相应的自由度(自变量的个数K)；均方残差：残差平方和SSE除以相应的自由度(n-k-1)。线性关系的检验(检验的步骤)提出假设H0：1=0所有回归系数与零无显著差异，y与全体x的线性关系不显

8、著计算检验统计量F确定显著性水平，并根据分子自由度1和分母自由度n-2找出临界值F作出决策：若F>F,拒绝H0；若F