3多元回归分析：估计.ppt

《3多元回归分析：估计.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、1多元回归分析：估计（1）MultipleRegressionAnalysis:Estimation(1)y=b0+b1x1+b2x2+...bkxk+u2本章大纲使用多元回归的动因普通最小二乘法的操作和解释估计量的期望值OLS估计量的方差OLS的有效性：高斯－马尔可夫定理3课堂大纲使用多元回归的动因普通最小二乘法的操作和解释假定MLR.1–MLR.4OLS估计值的无偏性4动因：优点经验研究中使用简单回归模型的主要缺陷是：它很难得到在其它条件不变的情况下，x对y的影响。多元回归分析更适合于其它条件不变情况下的分析，因为多元回归分析允许我们明确

2、地控制其它许多也同时影响因变量的因素。多元回归模型能容纳很多可能相关的解释变量，所以在简单回归分析可能误导的情况下，可以寄希望于多元回归模型来推断因果关系。5动因：优点在实证工作中使用简单回归模型的主要缺陷是：要得到在其它条件不变的情况下，x对y的影响非常困难。在其它条件不变情况假定下我们估计出的x对y的影响值是否可信依赖，完全取决于条件均值零值假设是否现实。如果影响y的其它因素与x不相关，则改变x可以保证u不变，从而x对y的影响可以被识别出来。6动因：优点可以解释更多的因变量变动。它可以表现更一般的函数形式。多元回归模型是实证分析中最广泛使

3、用的工具。7动因：一个例子考虑一个简单版本的解释教育对小时工资影响的工资方程。exper：在劳动力市场上的经历，用年衡量在这个例子中，“在劳动力市场上的经历”被明确地从误差项中提出。8动因：一个例子考虑一个模型：家庭消费是家庭收入的二次方程。Cons=b0+b1inc+b2inc2+u现在，边际消费倾向可以近似为MPC=b1+2b29含有k个自变量的模型一般的多元线性回归模型可以写为10类似于简单回归模型b0仍是截距b1到bk都称为斜率参数u仍是误差项（或干扰项）仍需作零条件期望的假设，所以现在假设E(u

4、x1,x2,…,xk)=0仍然最小化

5、残差平方和，所以得到k+1个一阶条件11如何得到OLS估计值普通最小二乘法选择能最小化残差平方和的估计值，12如何得到OLS估计值……k+1个一阶条件：13在估计之后，我们得到OLS回归线，或称为样本回归方程（SRF）得到OLS回归式之后，对每次观测都得到一个拟合值或预测值，对观测点i，其拟合值就是第i个观测的残差为：如何得到OLS估计值14OLS拟合值和残差的性质残差项的均值为零每个自变量和OLS协残差之间的样本协方差为零。点总位于OLS回归线上。15对多元回归的解释由可知所以，保持不变意味着：即，每一个βj都有一个偏效应(partiale

6、ffect)，或其他情况不变(ceterisparibus)的解释。16例子：大学GPA的决定因素两个解释变量的回归pcolGPA:大学成绩预测值hsGPA:高中成绩绩ACT:成绩测验分数(achievementtestscore)pcolGPA=1.29+0.453hsGPA+0.0094ACT一个解释变量的回归pcolGPA=2.4+0.0271ACTACT的系数大三倍。如果这两个回归都是对的，它们可以被认为是两个不同实验的结果。17“保持其它因素不变”的含义多元回归分析的优势在于它使我们能在非实验环境中去做自然科学家在受控实验中所能做的

7、事情：保持其它因素不变。18对“排除其它变量影响”的解释考虑回归线的一种表达式为：是由以下回归得出的残差：19“排除其它变量影响”（续）上述方程意味着：将y同时对x1和x2回归得出的x1的影响与先将x1对x2回归得到残差，再将y对此残差回归得到的x1的影响相同。这意味着只有x1中与x2不相关的部分与y有关，所以在x2被“排除影响”之后，我们再估计x1对y的影响。20“排除其它变量影响”（一般情况）在一个含有k个解释变量的一般模型中，仍然可以写成但残差来自x1对x2…,xk的回归。于是度量的是，在排除x2…,xk等变量的影响之后，x1对y的影响

8、。21比较简单回归和多元回归估计值比较简单回归模型和多元回归模型一般来说，，除非：或样本中x1和x2不相关。22比较简单回归和多元回归估计值这是因为存在一个简单的关系这里，是x2对x1的简单回归得到的斜率系数。2324简单回归和多元回归估计值的比较25简单回归和多元回归估计值的比较在k个自变量的情况下，简单回归和多元回归只有在以下条件下才能得到对x1相同的估计（1）对从x2到xk的OLS系数都为零（2）x1与x2…,xk中的每一个都不相关。拟合优度每一个观察值可被视为由解释部分和未解释部分构成：定义：SST=SSE+SSR2627拟合优度（续

9、）我们怎样衡量我们的样本回归线拟合样本数据有多好呢？可以计算总平方和（SST）中被模型解释的部分，称此为回归R2R2=SSE/SST=1–SSR/SST28拟合优度