统计学终极教程8 回归分析.ppt

《统计学终极教程8 回归分析.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第五章回归分析北京交通大学李雪梅回归分析回归分析的基本思想多元线性回归模型回归分析专题回归分析的基本思想回归分析的含义、分类及应用一种分析变量间关系的定量技术一元回归和多元回归线性回归和非线性回归应用于社会、经济、科技、文化、自然科学等各领域的数据分析，可进行预测、控制分析。总体回归函数与样本回归函数因变量Y的条件平均数随自变量X取值的变化而变化的关系式可用表示上述形式的方程即为总体回归函数。如果是线性形式，则可将总体回归函数写成下式：和为未知的总体参数，又称其为回归系数样本回归模型为：一元线性回归模型1、建立回归模型研究某一经济现象，先根据经济理论，选择具有因果关系

2、的两个变量（Y，X)，建立线性回归模型，确定解释变量和被解释变量。如果不明确两个变量是否为线性关系，也可以根据散点图来分析。建立回归模型可以是根据经济理论，也可以根据相同或相似经济现象的历史分析经验来建立回归模型。建立模型时，不仅要考虑理论或经验的依据，同时也要考虑数据的可利用程度。一元线性回归模型2、收集数据，并经过适当的加工整理，得到适于回归分析的样本数据集。3、估计模型参数。利用样本数据，以OLS得到模型参数的估计值。4、对回归模型和参数估计值进行检验。统计检验：拟合优度检验，估计量、回归方程的显著性检验。5、预测对于解释变量的特定值，带入回归方程得到因变量的预

3、测值；在给定的置信水平上，得到因变量预测值的置信区间。多元线性回归模型一、多变量线性回归模型假定被解释变量与多个解释变量之间具有线性关系，是自变量的多元线性函数，称为多元线性回归模型。即：假定有n组观测值，则可写成矩阵形式：多元线性回归模型的基本假定随机干扰项的期望值为0。2、同方差性；6、无多重共线性，即Xi(i=2,3,…,k)之间不存在线性关系：无自相关性4、随机误差项与自变量不相关根据残差的平方和最小化的原理，解出参数的估计量。参数估计一、参数的最小二乘估计如果直接用矩阵微分，则二、的估计量三、的方差-协方差矩阵四、OLS估计量的性质：一、拟合优度检验：（一）

4、、平方和的分解：多元回归模型的检验（二）校正的R2：由R2的计算式可看出，R2随解释变量的增加而可能提高（不可能降低）。于是可定义：一、单参数的显著性检验：如果接受H0，则变量Xi对因变量没有影响，而接受H1，则说明变量Xi对因变量有显著影响。检验的显著性，即在一定显著水平下，是否显著不为0。二、显著性检验二、回归的总显著性检验：检验回归系数全部为零的可能性。平方和df均方差RSSKESSn-k-1TSSn-1方差分析表（ANOVA)显然，R2越大，F越大，当R2=1时，F无限大。选择显著水平α，计算F统计量的值，与F分布表中的临界值进行比较：多元回归模型的预测对于多

5、元回归模型：通过回归分析，得到回归方程后，就可根据给定的解释变量的一组值X0=(1,X20，X30，…，Xk0)，对因变量Y的值进行估计。一、个值预测为Y0及的预测值。二、区间预测例子例5-2某商业公司在十五个地区开有分店，现欲准备在一新地区开一分店。现有十五个地区的销售额数据及所在地区的人口数、人均收入数据，如下表所示。为预测新开地区分店的销售额情况，试建立该公司分店销售额与所在地区人口数、人均收入的回归模型。自变量的选择是多元线性回归经常碰到的问题。一方面希望尽可能不漏掉重要的解释变量，另一方面又尽可能减少解释变量的个数，使模型做到精简在确定解释变量时，首先列出所

6、有可能的解释变量，再根据不同解释变量的组合，选择合适的模型。自变量的选择（1）事先给定一个挑选自变量进入模型的标准（2）开始时，模型中除常数项外没有自变量（3）按照自变量对因变量Y的贡献大小由大到小依次挑选进入方程。*每选入一个变量进入方程，则重新计算方程外各自变量（在扣除了已选入变量的影响后）对Y的贡献。直至方程外变量均达不到入选取标准，没有自变量可被引入方程为止。该种方法只考虑选入变量，一旦某变量进入模型，就不再考虑进入。向前法（1）事先给定一个剔除自变量的标准（2）开始全部自变量都在方程之中（3）按照自变量对因变量的贡献大小由小到大依次剔除。*每剔除一个变量，则

7、重新计算未被剔除的各自变量对因变量的贡献。直至方程中所有变量均符合选入标准，没有自变量被剔除为止。该种方法只考虑剔除，自变量一旦被剔除，则不再考虑进入模型。向后法该方法的主要思路是：在考虑的全部自变量中按其作用大小、显著程度大小或者说贡献大小,由大到小地逐个引入回归方程,而对那些对作用不显著的变量可能始终不被引入回归方程。已被引入回归方程的变量在引入新变量后也可能失去重要性,而需要从回归方程中剔除出去。引入一个变量或者从回归方程中剔除一个变量都称为逐步回归的一步,每一步都要进行检验,以保证在引入新变量前回归方程中只含有对影响显著的变量,而不显著的变量