第二章 一元线性回归模型

《第二章 一元线性回归模型》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第二章一元线性回归模型一元线性回归模型模型参数的最小二乘估计样本决定系数及回归直线拟合优度的检验随机项μ的方差的估计量回归方程的显著性检验利用回归方程进行预测一元线性回归分析案例第一节一元线性回归模型一、相关关系和回归模型二、一元线性回归模型三、一元线性回归模型举例§2.1回归分析概述（1）函数关系：研究的是确定现象非随机变量间的关系。（2）相关关系：研究的是非确定现象随机变量间的关系。一、相关关系和回归模型1.变量间的关系经济变量之间的关系，大体可分为两类：例如：函数关系：相关关系：这些关系都是一种不确定性的关系，在经济现

2、象中这种关系大量存在的，它不能用一种（或几种）经济变量与另一种经济变量的函数关系来表示，这种关系我们叫做相关关系。相关分析(correlationanalysis)主要研究随机变量间的相关形式及相关程度。变量间的相关程度用总体相关系数或样本相关系数表示。如果一种（或几种）变量，比方说X(或X1,…,Xk)自行变化时，按照一定的规律影响另一变量，比方说Y，而Y的变化不能影响X(或X1,…,Xk)。也就是说，变量X(或X1,…,Xk)的变化是变量Y变化的原因，而不是相反，这时我们说X(或X1,…,Xk)与Y具有因果关系（这里指单

3、向因果关系。对于模型：2.回归分析若X与Y具有因果关系，则称（2.1）为回归模型。Y被称为被解释变量（ExplainedVariable）或应变量（DependentVariable），X被称为解释变量（ExplanatoryVariable）或自变量（IndependentVariable）。3.随机误差项一般来说随机项μ包括以下几个主要方面：模型中省略的变量一些随机因素测量误差确定数学模型形式的误差二、一元线性回归模型一个自变量的线性回归模型叫做一元线性回归模型（或双变量线性回归模型），多个自变量的线性回归模型叫做多元线

4、性回归模型。如模型（2.2）就是一个一元线性回归模型。模型（2.2）是对总体而言的，因此也叫做总体回归模型，以下简称回归模型。设给定X，Y的n次观测值(样本值)（X1,Y1)（X2,Y2),…,（Xn,Yn)。代入模型(2.2)得:(1)E(i)=0i=1,2,…,n(2)Var(i)=2i=1,2,…,n(2.4)Cov(i,j)=0i≠ji,j=1,2,…,n(2.5)(2.4)式为等方差性。（2.5）式为无序列相关性。假定(2.4)式、（2.5）式叫做高斯-马尔科夫假定。(3)Cov(Xi,i)=0i=1

5、,2,…,n（4）i~N(0,2)i=1,2,…,n三、一元线性回归模型举例供给函数的参数为b0，b1,我们的任务就是;根据样本提供的信息，即观测值（Xi,Yi），i=1,2,…,n,给出两个参数的估计值，确定回归方程第二节模型参数的最小二乘估计一、回归参数（系数）的最小二乘估计二、最小二乘估计量的统计性质一、回归参数（系数）的最小二乘估计最小二乘法（Ordinaryleastsquares,OLS）给出的判断标准是：二者之差的平方和最小。方程组（*）称为正规方程组（normalequations）。记上述参数估计量可

6、以写成：称为OLS估计量的离差形式（deviationform）。顺便指出则有可得（2.16）式也称为样本回归方程的离差形式。（2.16）注意：在经济计量学中，往往以小写字母表示对均值的离差。二、最小二乘估计量的统计性质当模型参数估计出后，需考虑参数估计值的精度，即是否能代表总体参数的真值，或者说需考察参数估计量的统计性质。一个用于考察总体的估计量，可从如下几个方面考察其优劣性：（1）线性性，即它是否是另一随机变量的线性函数；（2）无偏性，即它的均值或期望值是否等于总体的真实值；（3）有效性，即它是否在所有线性无偏估计量中具

7、有最小方差。这三个准则也称作估计量的小样本性质。拥有这类性质的估计量称为最佳线性无偏估计量（bestlinerunbiasedestimator,BLUE）。高斯—马尔可夫定理(Gauss-Markovtheorem)在给定经典线性回归的假定下，最小二乘估计量是具有最小方差的线性无偏估计量。第三节样本决定系数及回归直线拟合优度的检验一、总利差平方和分解二、样本决定系数：“拟合优度”的度量三、样本相关系数回归分析是要通过样本所估计的参数来代替总体的真实参数，或者说是用样本回归线代替总体回归线。尽管从统计性质上已知，如果有足够多

8、的重复抽样，参数的估计值的期望（均值）就等于其总体的参数真值，但在一次抽样中，估计值不一定就等于该真值。那么，在一次抽样中，参数的估计值与真值的差异有多大，是否显著，这就需要进一步进行统计检验。主要包括拟合优度检验和变量的显著性检验。本节我们先介绍拟合优度检验。一、总离差平方和的分解已知由