第八章： 多元线性回归模型

《第八章： 多元线性回归模型》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第八章经典单方程计量经济学模型：多元线性回归模型多元线性回归模型多元线性回归模型的参数估计多元线性回归模型的统计检验§3.1多元线性回归模型一、多元线性回归模型二、多元线性回归模型的基本假定一、多元线性回归模型多元线性回归模型:表现在线性回归模型中的解释变量有多个。一般表现形式：i=1,2…,n其中:k为解释变量的数目，j称为回归参数（regressioncoefficient）。也被称为总体回归函数的随机表达形式。它的非随机（即确定）表达式为:表示：各变量X值固定（即给定）时Y的平均响应（即均值）。习惯上：把常数项看成为一虚变量的系数，该虚变量的样本观测值始终取1。于是

2、：模型中解释变量的数目为（k+1）j也被称为偏回归系数，表示在其他解释变量保持不变的情况下，Xj每变化1个单位时，Y的均值E(Y)的变化;或者说j给出了Xj的单位变化对Y均值的“直接”或“净”（不含其他变量）影响。用来估计总体回归函数的样本回归函数为：其随机表示式:ei称为残差或剩余项(residuals)，可看成是总体回归模型中随机扰动项i的近似替代。二、多元线性回归模型的基本假定（注意和一元线性回归模型的基本假定相比较）假设1，解释变量是非随机的或固定的，且各X之间不存在完全共线性（即无多重共线性，或解释变量之间不完全线性相关）(注：这一假设只有在多元线性回归模型

3、的基本假定中才有，而在一元线性回归模型中没有，为什么？）。假设2，随机误差项具有零均值、同方差及不序列相关性。假设3，解释变量与随机项不相关假设4，随机项满足正态分布如果X是非随机机的（即为固定值），则该假设自动满足。因为一个固定值与一个随机变量之间当然不相关。推导：误差项代表了没有纳入回归模型的其他所有影响因素。因为这些影响因素中，每种因素对Y的影响都很微弱。如果所有这些影响因素都是随机的，并用μ代表所有这些影响因素之和，那么根据中心极限定理，可以假设误差项服从正态分布§3.2多元线性回归模型的估计一、普通最小二乘估计*二、最大或然估计(MaximumLikelihood

4、)*三、矩估计（MomentMethod)四、参数估计量的性质*五、样本容量问题六、估计实例说明（注：参数有两类：结构参数和分布参数，分布参数是指随机误差项的均值和方差）估计方法：3大类方法：OLS、ML或者MM在经典模型中多应用OLS在非经典模型中多应用ML或者MM我们只学习OLS一、普通最小二乘估计对于随机抽取的n组观测值如果样本函数的参数估计值已经得到，则有：i=1,2…n根据最小二乘原理，参数估计值应该是右列方程组的解其中于是得到关于待估参数估计值的正规方程组：解该（k+1）个方程组成的线性代数方程组，即可得到(k+1)个待估参数的估计值$,,,,,bjj=012L

5、。kïïïîïïïíìS=++++SS=++++SS=++++SS=++++SkiikikikiiiiikikiiiiiikikiiikikiiXYXXXXXYXXXXXYXXXXYXXX)ˆˆˆˆ()ˆˆˆˆ()ˆˆˆˆ()ˆˆˆˆ(221102222110112211022110bbbbbbbbbbbbbbbbLMLLL注意（特别重要）《经济计量学精要》（古亚拉提著）将多元回归分析中的解释变量限定在2个（该类多元回归模型也称为三变量模型）。但实际中的多元回归模型的解释变量往往多于2个（有3个或3个以上），那么估计公式会更复杂。在这种情况下，必须使用矩阵代数知识。当然，本

6、书没有使用矩阵代数知识。不过现在很少有人手工计算了，还是让计算机做这些复杂的工作吧。初学者只需先掌握含两个解释变量的多元回归模型（以避免复杂的矩阵代数运算），以下的分析都建立在以2个解释变量为前提的多元回归模型基础上。三变量模型回归系数的OLS估计量（教材P156）偏回归系数的含义偏回归系数体现的是解释变量对因变量的净影响或直接影响。一元回归模型中的回归系数体现的是解释变量对因变量的总影响，包括直接影响和间接影响。j也被称为偏回归系数，表示在其他解释变量保持不变的情况下，Xj每变化1个单位时，Y的均值E(Y)的变化;或者说j给出了Xj的单位变化对Y均值的“直接”或“净”

7、（不含其他变量）影响。埋伏笔：三变量模型参数的OLS估计量是随机变量解释：因为给定一个具体的样本，就能求出一个特定的估计值。再换过一个样本，又可以求出不同的估计值。所以参数的估计量取值随着样本的改变而改变。既然是随机变量，就可以求方差。三变量模型OLS估计量方差的代数公式（教材P157）总体回归模型的随机误差项是一个随机变量，既然是随机变量，就可以求方差。将随机误差项的方差记为22客观存在，但往往未知。只能对其进行估计。随机误差项的方差2的估计2表示总体误差项的方差，这个未知方差的OLS估计量是：其