资源描述:
《ets4 多元性线回归模型》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、第四章多元线性回归模型简单线性回归模型的推广1在许多实际问题中,我们所研究的因变量的变动可能不仅与一个解释变量有关。例如,对某商品的需求量不仅与该商品的价格有关,而且与其它因素有关,如与消费者的可支配收入和该商品的替代品的价格有关。因此,有必要考虑线性模型的更一般形式,即多元线性模型。t=1,2,…,n在这个模型中,Y由X1,X2,X3,…XK所解释,有K+1个未知参数β0、β1、β2、…βK.其中,“斜率”βj的含义是其它变量不变的情况下,Xj改变一个单位对因变量所产生的影响,也称为偏回归系数。第一节多元线性回归模型的概念2例1:其中,Y=在
2、食品上的总支出X=个人可支配收入P=食品价格指数用美国1959-1983年的数据,得到如下回归结果(括号中数字为标准误差):Y和X的计量单位为10亿美元(按1972不变价格计算).3上例中斜率系数的含义说明如下:价格不变的情况下,个人可支配收入每上升10亿美元(1个billion),食品消费支出增加1.12亿元(0.112个billion)。收入不变的情况下,价格指数每上升一个点,食品消费支出减少7.39亿元(0.739个billion)多元线性回归模型中斜率系数的含义4例2:其中,Ct=消费,Dt=居民可支配收入Lt=居民拥有的流动资产水平β
3、2的含义是,在流动资产不变的情况下,可支配收入变动一个单位对消费额的影响。这是收入对消费额的直接影响。收入变动对消费额的总影响=直接影响+间接影响。(间接影响:收入流动资产拥有量消费额)但在模型中这种间接影响应归因于流动资产,而不是收入,因而,β2只包括收入的直接影响。在下面的模型中:这里,β是可支配收入对消费额的总影响,显然β和β2的含义是不同的。偏回归系数bj就是xj本身变化对y的直接(净)影响。5即对于n组观测值,有回到一般模型t=1,2,…,6其矩阵形式为:其中7一、假设条件(1)E(ut)=0,t=1,2,…,n(2)E(uiuj
4、)=0,i≠j(3)E(ut2)=σ2,t=1,2,…,n(4)Xjt是非随机量,j=1,2,…kt=1,2,…n第二节多元线性回归模型的估计多元线性回归模型的估计与双变量线性模型类似,仍采用最小二乘法。当然,计算要复杂得多,通常要借助计算机。理论推导需借助矩阵代数。下面给出最小二乘法应用于多元线性回归模型的假设条件、估计结果及所得到的估计量的性质。8除上面4条外,在多个解释变量的情况下,还有两个条件需要满足:(5)(K+1)5、。9上述假设条件可用矩阵表示为以下四个条件:(1)E(u)=0(2)这两个条件成立时才成立,因此,此条件相当前面条件(2),(3)两条,即各期扰动项互不相关,并具有常数方差。E(uiuj)=0,i≠jE(ut2)=σ2,t=1,2,…,n显然,仅当由于10(3)X是一个非随机元素矩阵。(4)Rank(X)=(K+1)6、1,2,…n12要使残差平方和我们得到如下K+1个方程(即正规方程):为最小,则应有:13按矩阵形式,上述方程组可表示为:14即=15上述结果,亦可从矩阵表示的模型出发,完全用矩阵代数推导出来。其中:残差可用矩阵表示为:16残差平方和17注意到上式中所有项都是标量,且与采用标量式推导所得结果相同。由上述结果,我们有用矩阵微分法,我们可得到令故18我们的模型为三、最小二乘估计量的性质1.的均值估计式为19这表明,OLS估计量是无偏估计量。(由假设3)(由假设1)即202.的方差这是一个(K+1)*(K+1)矩阵,其主对角线上元素即构成Var(),
7、非主对角线元素是相应的协方差,如下所示:为求Var(),我们考虑21下面推导此矩阵的计算公式.22由上一段的结果,我们有因此,23如前所述,我们得到的实际上不仅是的方差,而且是一个方差-协方差矩阵,为了反映这一事实,我们用下面的符号表示之:展开就是:24与双变量线性模型相似,2的无偏估计量是对于以及标准假设条件(1)-(4),普通最小二乘估计量是最佳线性无偏估计量(BLUE)4.高斯-马尔科夫定理这是因为我们在估计的过程中,失去了(K+1)个自由度。3.2的估计25由OLS估计量的公式因而显然有是线性估计量。其中是一个(K+1)*n非随机元
8、素矩阵。可知,可表示为一个矩阵和应变量观测值向量的乘积:我们已在上一段中证明了无偏性,下面证明线性和最小方差性。证明的路子与双变量模型中类似,只不过这