多元线性回归--数学建模ppt课件.ppt

《多元线性回归--数学建模ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第三章多元线性回归模型多元线性回归模型及其基本假设多元线性回归模型的估计问题经典假设满足时的推断问题多元线性回归模型的延伸受约束回归一、多元线性回归模型及其基本假设Leslie土地价格例：1968年加州某市想从Leslie公司征一块地建公园，为了确定一个公平的市场价格，希望做一个回归分析，以便了解有哪些因素影响这些土地的价值。变量如下：Price:千美元/亩County:土地所处地区，0-SanMateo,1-SantaClaraSize:土地的规模，亩Elevation：海拔高度，英尺Sewer:据最近排水系统的距离，英尺Date:交易日期，从现在起倒数，月Flood:潮汐是否造成洪水，1

2、-是，0-否Distance:到Leslie公司的距离，英里（距公司越远，到洛杉矶越近）为什么用对数？用对数后系数的含义有什么不同1.多元线性回归模型多元线性回归模型:表现在线性回归模型中的解释变量有多个。一般表现形式：i=1,2…,n其中:k为解释变量的数目，j，j=1,2,…k称为偏回归系数。也被称为总体回归函数的随机表达形式。它的非随机表达式为:表示：各变量X值给定时Y的平均响应。习惯上：把常数项看成为一虚变量的系数，该虚变量的样本观测值始终取1。于是：模型中解释变量的数目为（k+1）总体回归模型n个随机方程的矩阵表达式为:j被称为偏回归系数，表示在其他解释变量保持不变的情况下，X

3、j每变化1个单位时，Y的均值E(Y)的变化;或者说j给出了Xj的单位变化对Y均值的“直接”或“净”（不含其他变量）影响。其中样本观测值:ei称为残差(residuals)，可看成是对总体回归函数中随机扰动项i的估计。样本回归函数的矩阵表达:或其中：用来估计总体回归函数的样本回归函数为：2.多元回归模型的假设假设1：x1，x2，…xk是非随机的。假设2：E(i)=0i=1,2,…n假设3：Var(i)=2(E(ii)=2)假设4：无序列相关，E(ij)=0假设5：x诸变量间无准确的线性关系，即：无多重共线性。数学表示为：不存在一组不全为零的数1、2、…k，使得：1x

4、1i+2x2i+…+kxki=0假设6：iN(0,2)关于多重共线性的进一步说明如果存在一组不全为零的数1、2、…k，使得：1x1i+2x2i+…+kxki=0不妨设10，则上式可变为：x1i=-(2x2i+…+kxki)/1称解释变量之间存在完全共线性，此时，某个解释变量可以写为其它解释变量的线性组合。如果，会不会破坏无多重共线假定？不会，因为这两个变量的关系是非线性的！！经典假设的矩阵表示假设2：假设3和4：假设5：矩阵X的秩等于回归参数的个数（或解释变量个数加1），R(X)=k+1，n>k+1二、多元回归模型的估计问题偏回归系数的OLS估计偏回归系数的含

5、义复判定系数1.偏回归系数的OLS估计二元回归的样本回归函数为：OLS估计：极值条件正规方程解此联立方程既可求得参数估计值求解正规方程组可得：OLS估计量的方差和标准误自变量相关程度越高，参数估计量的方差越大。当x2和x3完全共线时，方差趋于无穷。对有k个解释变量的多元回归模型对于随机抽取的n组观测值如果样本函数的参数估计值已经得到，则有：i=1,2…n根据最小二乘原理，参数估计值应该是右列方程组的解于是得到关于待估参数的正规方程组：解该（k+1）个方程组成的线性代数方程组，即可得到(k+1)个待估参数的估计值$,,,,,bjj=012L。k将上述过程用矩阵表示如下：根据极值条件得到：得到：

6、于是最小二乘估计量为：——正规方程最小二乘估计量的方差-协方差阵为：⃟随机误差项的方差的无偏估计可以证明，随机误差项的方差的无偏估计量为：多元回归最小二乘估计量的性质在满足基本假设的情况下，其偏回归系数的普通最小二乘估计仍具有：线性性、无偏性、有效性。2.偏回归系数的含义二元回归模型为：yi=0+1x1i+2x2i+i偏回归系数告诉我们什么偏回归系数表示了其他因素不变时，相应解释变量对因变量的“净影响”。例1“期望扩充”菲利普斯曲线菲利普斯曲线表明：通货膨胀率和失业率是反向变化的。期望扩充菲利普斯曲线增加了预期通货膨胀率的影响。1970-1982年美国真实通货膨胀率y（%）、

7、失业率x1（%）和预期通货膨胀率x2（%）数据如表，作菲利普斯曲线。原始菲利普斯曲线：yt=b0+b10x1t+1t期望扩充菲利普斯曲线:yt=0+1x1t+2x2t+tb10、1的经济涵义、先验符号？估计值为正，失业率与通胀率同方向？例1“期望扩充”菲利普斯曲线估计结果原始菲利普斯曲线期望扩充菲利普斯曲线符号正确，统计显著。统计上不显著异于0设定偏误b101?E(b10)=1+2b12b