基础统计-第9章-多元线性回归分析课件.ppt

《基础统计-第9章-多元线性回归分析课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第九章多元线性回归分析第一节一元线性回归模型第二节多元线形回归模型第三节方程的解释能力第四节回归方程检验和回归系数的推断统计第五节多重共线性及其解决方法第六节虚拟变量的应用第七节SPSS中回归分析假设条件的检查第九章多元线性回归分析多元线性回归（multiplelinearregression）分析一个随机变量与多个变量之间线性关系的最常用的统计方法。它用变量的观察数据拟合所关注的变量和影响它变化的变量之间的线性关系式，检验影响变量的显著程度和比较它们的作用大小，进而用两个或多个变量的变化解释和预测另一个变量的变化。因变量（dependentvariable

2、）和自变量（independentvariable）的确定是建立回归模型的主要任务。第一节一元线性回归模型一元线性回归模型：假设在总体中满足Y=A+BX+ε，Y为随机变量，X为确定变量；将随机样本的观测数据代入方程中，则有：yi=a+bx+ei，ei为样本随机误差项。y’=a+bx。参数a、b用最小二乘法（OrdinaryLeastSquares）求得，即所有观测值与估计值之间的误差平方和最小。第一节一元线性回归模型一元回归系数的含义：a是直线在y轴上的截距，代表y的基础水平；b是直线的斜率，代表x变化一个单位时，y的平均变化；变量变换：当因变量y与自变量x

3、是非线性关系时，可以通过变量变换使经过变换的新变量对于参数是线性的。第一节一元线性回归模型最小二乘估计的统计性质：回归方程的拟合误差总和等于0，即Σei＝0；误差平方和最小，即在所有拟合散点的直线中，根据最小二乘原则得到的回归直线使n个散点（yi，xi）沿y轴方向到直线的距离平方和最小；y’的平均值等于y的平均值；x与e相互独立，即x与e的协方差等于0，Cov(x,e)=[Σ(xi-x)（ei）]/n=0;y’与e相互独立，即y’与e的协方差等于0；直线通过n个散点的重心点，即x与y的均值确定的点第一节一元线性回归模型模型的假设条件（assumption）。

4、统计理论已经证明，在满足一定的假设条件下，样本数据的最小二乘估计是总体参数的最佳线性无偏估计。原因：在推断总体参数或进行统计检验时，必须考虑总体回归模型中的随机误差项ε的分布特征。第二节多元线性回归模型多元回归方程：Y=B0+B1X1+B2X2+…+BkXk+ε，其中Y为可观察的随机变量，X1、X2，…Xk为可观察的一般变量，B0，B1，B2，…Bk为待定模型参数，其中B0为截距，ε为不可观测的随机误差；由n组独立观察的样本数据（yi,xi1,xi2,…，xik）得到方程：yi=b0+b1xi1+b2xi2+…+bkxik+ei。其中，i＝1，2，…，n。由

5、于n个随机变量ei相互独立且服从同一正态分布Nor(0,δ2)根据最小二乘原则，求B0，B1，B2，…Bk的估计值b0，b1，b2，…bk，使上式的误差平方和最小，即Σ(ei)2=Σ[yi-(b0+b1xi1+b2xi2+…+bkxik)]2的最小值。于是，得到回归方程：y’=b0+b1xi+b2xi+…+bkxi——（1）第二节多元线性回归模型回归平面意义：回归方程（1）称为回归平面。它拟合（y,x1,x2,…，xk）形成k+1维空间的散点（yi,xi1,xi2,…，xik）i＝1，2，…n，使观察值沿y轴的方向到平面距离（即yi与拟合值yi’之差）的平方

6、和最小，使误差之和等于0，并通过平均值（y,x1,x2,…，xk）点和（b0，0，0…0）点。第二节多元线性回归模型回归系数的意义：b0，b1，b2，…bk称为回归平面的系数。bj，j＝1，2，…k表示其他变量xi在i＝1，2，…，k固定时，xj每变化一个单位，y的平均变化。这时，无论其他变量在什么水平上，xj的变化对y的影响都是相等的；而y的取值则与各个变量的当前水平有关。第二节多元线性回归模型标准化回归系数：若先将所有的自变量和因变量进行标准化（均值为0，标准差为1），然后进行回归得到标准化回归方程，这个方程的系数称之为标准化回归系数。每一个标准化系数都

7、表示，当其他变量不变时，xj变化一个标准差单位，y的标准差的平均变化。它表示的是方程内变量之间的相对重要性。第三节方程的解释能力方程的确定能力：所得回归方程在多大程度上解释了因变量的变化，或者说方程对观察值的拟合程度如何；确定系数(coefficientofdetermination)R2：R2＝Σ(y’-y均值)2/Σ(y-y均值)2，其值越接近1，表明方程中的变量对y的解释能力越强。它是方程拟合优度的度量，R2越大说明回归方程拟合优度越好，自变量与因变量线性关系越强，即回归方程中的自变量对y的解释能力越强。R2越小说明自变量与因变量的线性关系越弱，它们之

8、间的独立性越强，或者说对x的了解无助于对y的预测。第