最新第三章-多元回归模型幻灯片.ppt

《最新第三章-多元回归模型幻灯片.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第三章-多元回归模型引子:中国汽车的保有量将会达到1.4亿辆吗?中国汽车工业协会发布:２００９年中国汽车工业迅猛发展，已成为世界第一汽车生产和消费国。中国交通部副部长2004年9月2日预测:“2020年，中国的民用汽车保有量将比2003年增长６倍，达到1.4亿辆左右”。工信部装备工业司副司长王富昌2010年9月5日指出，预计到2020年中国汽车保有量将超过2亿辆。公安部交管局近日公布的数据显示，截至2011年8月底，全国汽车保有量首次突破1亿辆。是什么因素导致中国汽车数量快速增长?显然,影响中国汽车行业发展的因素并不单一，经济增长、居民收

2、入、消费趋势、市场行情、业界心态、能源价格、道路发展、内外环境，都会使中国汽车行业面临机遇和挑战。2很明显，分析中国汽车行业未来的趋势，只用一个解释变量已经很难分析汽车产业的实际发展,还需要去寻求有更多个解释变量情况的回归分析方法。而且,在汽车产业发展问题上,多种因素同时在发挥作用,要分析其中某一个因素的影响作用,也必须控制其他因素不变才行。显然，简单线性回归模型不能解决这类多因素问题的分析。需要把简单线性回归的方法拓展到多个解释变量的情况。怎样分析多种因素对汽车行业的影响呢？3多元线性回归中的“线性”指对各个回归系数而言是“线性”的，对

3、变量则可以是线性的，也可以是非线性的例如：生产函数取对数这也是多元线性回归模型，只是这时变量为lnY、lnL、lnK7多元总体回归函数条件期望表现形式：将Y的总体条件期望表示为多个解释变量的函数，如:注意：这时Y总体条件期望的轨迹是K维空间的一条线个别值表现形式：引入随机扰动项或表示为8多元样本回归函数Y的样本条件均值可表示为多个解释变量的函数或回归剩余（残差）：其中,由于有n组样本观测值，而且都满足这样的关系,象这样的方程事实上有n个.条件均值形式:个别值形式:9二、多元线性回归模型的矩阵表示多元线性回归模型的n组样本观测值，可表示为用

4、矩阵表示解释变数据矩阵10总体回归函数或样本回归函数或其中：都是有n个元素的列向量是有k个元素的列向量（k=解释变量个数+1）是第一列为1的n×k阶解释变量数据矩阵，(截距项可视为解释变量总是取值为1)矩阵表示方式11三、多元线性回归中的基本假定假定1：零均值假定或假定2和假定3：同方差和无自相关假定（球型扰动）：或假定4：随机扰动项与解释变量不相关（i=j）(i≠j)0或12假定5:无多重共线性假定(多元回归中增加的)假定各解释变量之间不存在线性关系，或各个解释变量观测值之间线性无关。或解释变量观测值矩阵X的秩为K(注意X为n行K列)。

5、Ran(X)=kRak(X'X)=k即(X'X)可逆假定6:正态性假定或13第二节多元线性回归模型的估计一、普通最小二乘法（OLS）原则：寻求剩余平方和最小的参数估计式充要条件:求偏导，并令其为0即14整理后的正规方程组表示为解方程组可得参数的最小二乘估计:正规方程也可写为矩阵形式:---------------------------------------------------多元回归的正规方程(解释变量多时估计量已经难以用代数式表示)样本回归函数由最小二乘15OLS估计式由正规方程多元回归中参数的最小二乘估计量为:例如只有两个解释

6、变量时：的代数式可用离差简化地表示为：注意：为X、Y的离差对比简单线性回归中16二、OLS估计量的统计性质1、线性特征是Y的线性函数，因是非随机或取固定值的矩阵2、无偏特性(证明见教材P101附录3.1)3、最小方差特性在所有的线性无偏估计中，OLS估计具有最小方差(证明见教材P101或附录3.2)结论：在古典假定下，多元线性回归的OLS估计量是最佳线性无偏估计量（BLUE）17三、OLS估计的分布性质基本思想：●是随机变量，必须确定其分布性质才可能进行区间估计和假设检验●是服从正态分布的随机变量，决定了Y也是服从正态分布的随机变量●是Y

7、的线性函数，决定了也是服从正态分布的随机变量18●的期望(由无偏性)●的方差和标准误差：可以证明的方差—协方差矩阵为（证明见p81）（其中是矩阵中第j行第j列的元素）所以（j=1,2,---k）的期望与方差这里的19四、随机扰动项方差的估计一般未知，可证明多元回归中的无偏估计为:(证明见P103附录3.3)已知时，将作标准化变换：回顾简单线性回归中(注意:红色字体是与一元回归不同的部分)20未知时的标准化变换因是未知的，可用代替去估计参数的标准误差:●当为大样本时，用估计的参数标准误差对作标准化变换，所得Z统计量仍可视为服从正态分布●当为

8、小样本时，用估计的参数标准误差对作标准化变换，所得的t统计量服从t分布：(注意:红色字体是与一元回归不同的部分)21五、回归系数的区间估计由于给定，查t分布表的自由度为n-k的临界值即(注意: