计量经济学第3章-多元线性回归模型(1)ppt课件.ppt

《计量经济学第3章-多元线性回归模型(1)ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、1第3章多元线性回归模型§3.1模型的建立及其假定条件1.基本概念多元总体线性回归模型：Y=β0+β1X1+β2X2+…+βkXk+u多元总体线性回归方程：E(Y)=β0+β1X1+β2X2+…+βkXk.2样本数据结构形式的多元总体线性回归模型：Yi=β0+β1X1i+β2X2i+…+βkXki+ui,i=1,2,…,n它是由n个方程，k+1个未知参数组成的一个线性方程组，即这个模型相应的矩阵表达形式是Y=Xβ+U.3其中.4多元样本线性回归方程：估计的回归方程的矩阵表达形式是：其中.52.模型的假定（1）E(ui)=0

2、，i=1,2,…,n（2）Var(ui)=E(ui2)=σ2,i=1,2,…,n（3）Cov(ui,uj)=E(uiuj)=0，i≠j,i,j=1,2,…,n（4）Cov(Xijuj)=0(i=1,2,…,k,j=1,2,…,n)且Cov(XkXl)=0(k≠l)。（5）rank(X)=k+1

3、估计对于含有k个解释变量的多元线性回归模型Yi=β0+β1X1i+β2X2i+…+βKXKi+ui,i=1,2,…,n和相应的估计的样本回归方程根据最小二乘准则，寻找使下式达到最小的参数估计值.8当Q对的一阶偏导数都等于0，即下列方程组同时成立时，Q有最小值。对上述方程组加以整理，可得到正规方程组，正规方程组有k+1个方程，未知数也是k+1个。只要系数矩阵非奇异(满足模型假设5，解释变量之间不存在严格线性关系即可)，就可以解出的唯一的一组解，就是β0,β1,…,βK的最小二乘估计值。.9用向量和矩阵的表示方法和运算，多元线

4、性回归最小二乘估计的推导会简洁得多。先引进参数估计量、解释变量回归值和回归残差的下列向量表示：.10写成等价的向量方程，则为再利用向量、矩阵的运算法则，可以得到残差平方和为.11其中矩阵求导：.12整理该向量方程，得到下列形式的正规方程组当可逆，也就是X是满秩矩阵（满足假设5）时，在上述向量方程两端左乘的逆矩阵，得到这就是多元线性回归模型最小二乘估计的矩阵一般公式。.13补充：矩阵的运算（1）矩阵乘法按住鼠标左键拖放选定存放结果的单元格区域，输入计算公式=MMULT()按Ctrl+Shift+Enter复合键确认。（2）矩

5、阵转置按住鼠标左键拖放选定存放结果的单元格区域，输入计算公式=TRANSPOSE()按Ctrl+Shift+Enter复合键确认。（3）逆矩阵按住鼠标左键拖放选定存放结果的单元格区域，输入计算公式=MINVERSE()按Ctrl+Shift+Enter复合键确认。.14§3.3最小二乘估计量的特性1.线性性所谓线性性是指最小二乘估计量是被解释变量Y的观测值的线性函数。多元线性回归模型参数的最小二乘估计向量为令则矩阵A是一个非随机的常数矩阵。线性性得证。.152.无偏性.163.最小方差性（有效性）.17证明思路：如果模型参

6、数向量的任意其他线性无偏估计量(b)的协方差矩阵Var(b)，与最小二乘估计的协方差矩阵Var()之间，都满足Var(b)-Var()是半正定矩阵(Var(b)-Var()≥0)，那么最小二乘估计的最小方差性得到证明。.18具体证明：因为所设b是线性无偏估计向量，因此可以表示为b=BY又因为b是无偏估计，因此E(b)=E(BY)=E[B(Xβ+U)]=E(BXβ+BU)=BXβ+BE(U)=BXβ=β所以必然有BX=I计算b的方差，有Var(b)=Var[B(Xβ+U)]=Var(β+BU)=Var(BU)=BVar(U)

7、B’=BB’σ2.19根据矩阵代数知识，任意矩阵与自身转置的乘积都是半正定矩阵，因此这意味着为半正定矩阵。这样的协方差矩阵之差也是半正定矩阵。因此多元线性回归参数的最小二乘估计是最小方差的线性无偏估计。.20高斯—马尔可夫定理：如果基本假定(1)-(5)成立，则最小二乘估计量是β的最优线性无偏估计量(BestLinearUnbiasedEstimate，简记为BLUE)，也就是说在β的所有线性无偏估计量中，具有最小方差性。.21§3.4可决系数1.总离差平方和的分解公式TSS=RSS+ESS2.多元样本可决系数不难发现可决

8、系数只与被解释变量的观测值以及回归残差有关，而与解释变量无直接关系。因此可以将它直接推广到多元线性回归分析，作为评价多元线性回归拟合优度的指标。.22但是需注意：多元线性回归模型解释变量的数目有多有少，而上述可决系数R2又可以证明是解释变量数目的增函数。这意味着不管增加的解释变量是否对改善模型、拟合程度