【统计学】多元线性回归.ppt

《【统计学】多元线性回归.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第三章经典单方程计量经济学模型：多元线性回归模型MultipleLinearRegressionModel本章内容多元线性回归模型概述多元线性回归模型的参数估计多元线性回归模型的统计检验多元线性回归模型的预测可化为线性的非线性模型受约束回归§3.1多元线性回归模型概述(RegressionAnalysis)一、多元线性回归模型二、多元线性回归模型的基本假设一、多元线性回归模型多元线性回归模型的形式由于：在实际经济问题中，一个变量往往受到多个原因变量的影响；“从一般到简单”的建模思路。所以，在线性回归模型中的解释变量有多个，至少开始是这样。这样的模型被称为多元线

2、性回归模型。多元线性回归模型参数估计与一元线性回归模型相同，只是计算更为复杂。总体回归模型i=1,2…,n总体回归模型：总体回归函数的随机表达形式k为解释变量的数目。习惯上，把常数项看成为虚变量的系数，该虚变量的样本观测值始终取1。于是，模型中解释变量的数目为（k+1）。j称为回归系数（regressioncoefficient）。总体回归函数：描述在给定解释变量Xi条件下被解释变量Yi的条件均值。j也被称为偏回归系数(partialregressioncoefficients)，表示在其他解释变量保持不变的情况下，Xj每变化1个单位时，Y的均值E(Y)的

3、变化。或者说j给出了Xj的单位变化对Y均值的“直接”或“净”（不含其他变量）影响。总体回归函数总体回归模型的矩阵表示样本回归函数与样本回归模型从一次抽样中获得的总体回归函数的近似，称为样本回归函数（sampleregressionfunction）。样本回归函数的随机形式，称为样本回归模型（sampleregressionmodel）。样本回归函数的矩阵表示二、多元线性回归模型的基本假设标量符号1、解释变量X1，X2，…，Xn是非随机的或固定的；而且各X之间互不相关（无多重共线性）矩阵符号1、n×（k+1）矩阵X是非随机的；且X的秩R(X)=k+1,即X列满

4、秩。XTX也是满秩的关于经典回归模型的假定当多元线性回归模型满足下列的基本假设的情况下，可以采用普通最小二乘法（OLS）估计参数。标量符号2、矩阵符号2、标量符号3、解释变量与随机误差项不相关。矩阵符号3、即标量符号4、（为了假设检验）随机误差项服从正态分布矩阵符号4、向量为一多维正态分布，1、关于模型关系的假设模型设定正确假设。Theregressionmodeliscorrectlyspecified.线性回归假设。Theregressionmodelislinearintheparameters。2、关于解释变量的假设确定性假设。解释变量X是确定性变量，

5、不是随机变量，在重复抽样中取固定值。与随机项不相关假设。由确定性假设可以推断。无完全多重共线性假设。各解释变量之间不存在严格线性相关性适用于多元线性回归模型。样本方差假设。随着样本容量的无限增加，解释变量X的样本方差趋于一有限常数。时间序列数据作样本时间适用3、关于随机项的假设0均值假设。给定X的条件下，随机误差项的均值为0.由模型设定正确假设推断。含义：随机误差项的条件零均值假设是指它的期望不依赖与X的变化而变化，且总为常数零。也就是说，随机误差项与解释变量不相关。使总体回归函数的随机形式与确定形式等价的关键假设。是否满足需要检验。含义：条件同方差假设是指随

6、机误差项的方差不依赖于X的变化而变化，且总为常数同方差假设：给定X的条件下，对所有观测，方差都是相同的。非条件零均值性质：非条件同方差性质：根据期望迭代法则：序列不相关假设。各随机误差项之间无自相关性。是否满足需要检验。4、随机项的正态性假设在采用OLS进行参数估计时，不需要正态性假设。在利用参数估计量进行统计推断时，需要假设随机项的概率分布。一般假设随机项服从正态分布。可以利用中心极限定理（centrallimittheorem,CLT）进行证明。正态性假设。Theμ’sfollowthenormaldistribution.5、CLRM和CNLRM以上假设

7、（正态性假设除外）也称为线性回归模型的经典假设或高斯（Gauss）假设，满足该假设的线性回归模型，也称为经典线性回归模型（ClassicalLinearRegressionModel,CLRM）。同时满足正态性假设的线性回归模型，称为经典正态线性回归模型（ClassicalNormalLinearRegressionModel,CNLRM）。§3.2多元线性回归模型的估计一、普通最小二乘估计二、最大或然估计三、矩估计四、参数估计量的性质五、样本容量问题六、估计实例说明估计方法：3大类方法：OLS、ML或者MM在经典模型中多应用OLS在非经典模型中多应用ML或者

8、MM一、普通最小二乘估计(OLS)1、