多元回归估计与假设检验课件.ppt

《多元回归估计与假设检验课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、包含多个解释变量的回归模型称为多元回归模型。多元是指由多种因素对应变量有影响。本章将以三变量线性回归模型为例来讲解多元回归模型。一旦掌握了三变量模型，就很容易将结论扩展到更多元的线性回归模型。本章的内容如下：1.三变量线性回归模型与三变量线性回归模型的假设2.三变量线性回归模型的OLS估计量以及OLS估计量的方差与标准误3.多元回归的拟合优度：多元判定系数4.多元回归的假设检验5.其他问题一、三变量线性回归模型与三变量线性回归模型的假设三变量线性回归模型的非随机总体回归函数（PRF）一般可以表示为：随机形式：其中，Y为应变量；

2、X1,X2为解释变量；u为随机误差项；t表示第t期观察值。B1是截距，表示当X1,X2为零时Y的平均值。B2、B3称为偏回归系数。三变量线性回归模型的PRF也是给出了在给定解释变量的情况下，相应的Y总体的条件均值。偏回归系数三变量线性回归模型中的斜率系数称为偏回归系数(Partialregressioncoefficient)或偏斜率系数(partialslopecoefficient)。其表示的意义为，度量了在保持不变的情况下，单位变动引起均值的改变量；同样，度量了在保持不变的情况下，单位变动引起均值的改变量。例如：多元线性

3、回归模型的若干假定(1)回归模型是参数线性的。(2)回归模型是正确设定的。(3)解释变量与随机误差项不相关。(4)随机误差项均值为零(5)不同随机误差项的方差相同，即：(6)不同随机误差项之间不相关，或者无自相关，即：(7)解释变量和之间不存在完全共线性，即两个解释变量之间无确切的线性关系。如果变量能表示为另一变量的线性函数，则称和之间是共线性的。在和存在共线性的情况下，不能通过一个样本估计出和的参数值。注意：虽然在实际中很少遇到完全共线性的情况，但是高度共线性或近似共线性的情况还是很常见的。(8)随机误差项服从均值为零，方差

4、为的正态分布，即：二、三变量线性回归模型的OLS估计量以及OLS估计量的方差与标准误1.三变量线性回归模型的OLS估计量假设某三变量线性回归模型，其随机样本回归函数为：其中，、、分别是、、的估计量，为残差确定样本回归函数为：根据OLS的原理，对于三变量线性回归模型来说，求解、、的方法是选择、、使得下式中的RSS最小化，即：求解该最小化问题后得到如下正规方程式：将以上三个正规方程做简单代数变换，得到：其中，小写字母表示与其样本均值的离差，（例如：）2.三变量模型OLS估计量的方差与标准误根据三变量线性回归模型OLS估计量的推导式

5、可以知道，、、估计量的方差与标准误为：对于以上诸式中的未知量，可用其OLS估计量来代替，即：3.高斯-马尔柯夫定理在满足古典线性回归模型假设的前提下，多元线性回归模型中参数的估计量依然是总体回归模型参数的最优线性无偏估计量（BLUE）。例子：古董钟拍卖德国Triberg钟表公司每年都举行古董钟表拍卖会。现有一个32个钟表拍卖信息的数据（样本），这些信息包括：钟表的中标价格、投标人数、古董钟的年代。三、多元回归的拟合优度：多元判定系数对于多元线性回归模型来说，也有如下等式的成立：与双变量模型相同，决定系数　定义为：其中，　　为应

6、变量Ｙ的总平方和；　　为回归平方和；为残差平方和。四、多元回归的假设检验在随机误差项服从正态分布以及多元回归的其他基本假定的情况下，可以证明　、　、　均服从均值分别为、和　，方差分别为、、的正态分布。1.对零假设进行假设检验的检验统计量分别为：显著性检验法1.对于假设2.计算t值3.根据显著性水平计算临界值并得到拒绝域4.比较t值和拒绝域并作出判断置信区间法由于多元线性回归模型截距和系数的检验统计量为t统计量，即：所以可以得到一个该参数的置信度为的置信区间：满足：对比参数的置信区间和零假设值，如果置信区间包含零假设值，则不能拒

7、绝零假设，否则，拒绝零假设。2.检验联合假设：对于一个多元线性回归模型来说，一个或多个解释变量各自对应变量没有影响，但却有可能联合对应变量有影响。所以有必要对这些变量的系数作联合的假设检验，即检验假设：或以上检验称为多元回归的总体显著性检验。如何检验呢？可以采用方差分析的公式：对于TSS、RSS、ESS来说，其自由度分别为：对于三变量线性回归模型来说，有下表在满足CLRM基本假定，在零假设：下可以证明变量服从分子自由度为k-1，分母自由度为n-k的F分布，即：对于三变量线性回归模型来说，则有：F检验的理论原理是：如果Y由回归解

8、释的部分（即由X2和X3解释的部分）比未被回归解释的部分大，则F值将大于1。因此，随着解释变量对应变量Y变异的解释比例逐渐增大，F值也将逐渐增大。因此，F值越大，则拒绝零假设的理由越充分。例如：古董钟拍卖价格一例（见课本第119页）回归结果如下：从结果来看，获得F值的概率几乎