多元回归分析的原理与应用.ppt

《多元回归分析的原理与应用.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、多元回归分析的原理与应用1提纲多元回归分析的统计原理多元回归分析在心理学研究中的应用21多元回归分析(regression)的统计原理回归分析的含义回归分析的分类一元线性回归多元线性回归在SPSS中如何做多元回归分析31.1回归分析的含义客观世界中事物之间的关系是各种各样的。从定量的角度看，主要有两种：一是确定性关系，如重力加速度，即自由落体的距离与时间：S=0.5gt2；另一类是不确定性关系，即相关关系。由于事物的变化常常受多种因素的影响，导致了事物变化的不确定性。人们常用相关系数来描述事物之间的这种不确定性程度。但对于如何通过一个事物的值去估计和

2、预测另一个事物的发展变化，相关系数却无能为力。但是，通过大量的实际调查，可以总结出它们之间的关系，回归分析即是对这种关系的描述。41.1回归分析的含义“回归”一词最早由英国统计学家高尔顿（FrancisGalton）在19世纪末期研究孩子的身高和他们父母身高关系时提出。研究发现，孩子的身高总是趋于他们父母身高的平均值。孩子的身高，比身材矮的父母要高，比身材高的父母要矮，这种趋于中间值的趋势称作“回归效应”，而他提出的这种研究两个数值变量关系的方法称作回归分析。51.1回归分析的含义含义：是借助数学模型对客观世界所存在的事物间的不确定关系的一种数量化描写

3、，即通过一个或几个变量的变化去解释另一变量的变化。目的：在于对相关随机变量进行估计、预测和控制，确定变这些量之间数量关系的可能形式，并用一个数学模型来表示。6XYXY••••••••自变量(independentvariable)：解释变量，给定的或可以控制的、用来解释、预测因变量的变量。因变量(dependentvariable)：响应变量，由自变量来解释其变化的变量。在回归分析中：71.1回归分析的含义数学模型：y=f(x1,x2,x3,…,xi)+模型的基本含义：因变量y受到两部分自变量的影响，即：已知的K个自变量x1,x2,x3,…,xi的影

4、响；一些未知因素或随机因素的影响。对于K个已知自变量的影响，设想可以通过函数f(x1,x2,x3,…,xi)来表示，而剩下的将由那些未知因素或随机因素的影响确定，将这些影响的结果记为，称为随机误差。对于每一组实际观察获得的值yi，x1,x2,x3,…,xi就可以表示成:yi=f(x1,x2,x3,…,xi)+81.1回归分析的含义对于自变量x1,x2,x3,…,xi的每一组确定的值，f(x1,x2,x3,…,xi)的值也是确定的；但由于是不确定的，所以，y也是不确定的，但在每一组确定的自变量之下，所有的服从均数为零的正态分布，因此，对于自变量的

5、每一组确定的值，因变量也服从正态分布，其平均数就是f(x1,x2,x3,…,xi)，该公式即为回归方程，记为：9回归分析按自变量个数分类一元回归简单回归多元回归复回归按方程式特征分类线性回归非线性回归1.2回归分析的分类101.3一元线性回归只有一个自变量的线性回归叫一元线性回归，也叫简单回归。与方差分析不同，在回归分析中，“元”是指自变量，而不是指因变量。11总体的一元线性回归模型：模型参数残差假定：E()=0总体的一元线性回归方程：12一元线性回归方程的几何意义一元线性回归线的可能形态截距斜率：回归系数1＞01＜01=013样本的一元线性回

6、归方程：(估计的回归方程)总体未知参数以样本统计量估计总体参数回归系数14最小二乘法(Leastsquaresmethod):以极小化为目标，求估计方程的过程。残差(Residual):e15最小二乘法因为一组数据可以有多条回归直线，但是哪条最理想呢？想得到比较精确的回归方程，必须使用最小二乘法。最小二乘法就是使误差的平方和最小。误差e就是残差ε，e=y-y，其平方和为：∑(y－y)2=∑(y-a-bx)2要使误差最小，只要分别对a、b求偏导数，使其＝0即可。16判定系数(Coefficientofdetermination):估计的回归方程拟合优度的

7、度量，表明Y的变异性能被估计的回归方程解释的部分所占比例的大小。是判定回归方程有效性高低的指标r2当残差平方和为0时，判定系数为1，为完全的拟合。当残差平方和最大时，判定系数为0，为最差的拟合。判定系数17判定系数与相关系数18判定系数与相关系数从二者的计算公式可知，积差相关系数r的平方等于判定系数r2，即Y的变异性能被估计的回归方程解释的部分所占比例的大小。如果r2=0.64,表明变量Y的变异中有64％是由变量X的变异引起的。所以，r2叫判定系数。191.4多元线性回归(MultipleRegression)多元线性回归，就是有多个自变量的线性回归，

8、也叫复回归。其数学模型为：截距：常数项(constant)偏回归系数：β误差：残差201.4多