一元线性回归模型

《一元线性回归模型》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第三章一元线性回归模型（教材第二、三章）第三章一元线性回归模型3.1回归的涵义3.2随机扰动项的来源3.3参数的最小二乘估计3.4参数估计的性质3.5显著性检验3.6拟合优度3.7预测学习要点回归模型的涵义，参数的OLS估计及其性质，显著性检验3.1回归的涵义回归分析（regressionanalysis）用于研究一个变量（称为被解释变量或应变量）与另一个或多个变量（称为解释变量或自变量）之间的关系。Y代表被解释变量，X代表解释变量；解释变量有多个时，用X1，X2，X3等表示。例：商品的需求量与该商品价格、消费者收入以及其他竞争性商品价格之间的关系。总体回归函数（popul

2、ationregressionfunction，PRF）例：学生的家庭收入与数学分数有怎样的关系？3.1回归的涵义3.1回归的涵义总体回归函数（populationregressionfunction，PRF）根据上面数据做散点图3.1回归的涵义总体回归函数（populationregressionfunction，PRF）上图中，圆圈点称为条件均值；条件均值的连线称为总体回归线。总体回归线表明了Y的均值与每个X的变动关系。上图近似线性的总体回归线可以表示成：表示给定的X值所对应的Y的均值；、称为参数（parameters），也称回归系数（regressioncoeffic

3、ients）；称为截距（intercept），称为斜率（slope）。斜率系数度量了X每变动一单位，Y（条件）均值的变化率。举例：，含义？3.1回归的涵义样本回归函数（sampleregressionfunction,SRF）实际中往往无法获得整个总体的数据，怎么估计总体回归函数？即如何求参数B1、B2？通常，我们仅仅有来自总体的一个样本。我们的任务就是根据样本信息估计总体回归函数。怎么实现？3.1回归的涵义样本回归函数（sampleregressionfunction,SRF）表2-2、2-3的数据都是从表2-1中随机抽取得到的。3.1回归的涵义样本回归函数（sample

4、regressionfunction,SRF）通过散点得到两条“拟合”样本数据的样本回归线。3.1回归的涵义样本回归函数（sampleregressionfunction,SRF）可用样本回归函数（SRF）表示样本回归线：其中，总体条件均值的估计量；并非所有样本数据都准确地落在样本回归线上，因此建立随机样本回归函数：其中，是的估计量，称为残差（residual）。表示了Y的实际值与样本回归估计值的差。3.1回归的涵义样本回归函数（sampleregressionfunction,SRF）回归分析：根据样本回归函数估计总体回归函数。3.1回归的涵义“线性”回归的特殊含义对“线

5、性”有两种解释：变量线性和参数线性。变量线性：例如前面的总体（或样本）回归函数；下面的函数不是变量线性的：参数线性：参数B1、B2仅以一次方的形式出现。下面的模型是参数非线性的：本书主要关注参数线性模型。从现在起，线性回归（linearregression）是指参数线性的回归，而解释变量并不一定是线性的。3.2随机扰动项的来源总体回归函数说明在给定的家庭收入下，美国学生平均的数学分数。但对于某一个学生，他的数学分数可能与该平均水平有偏差。可以解释为，个人数学分数等于这一组的平均值加上或减去某个值。用数学公式表示为：其中，表示随机扰动项，简称扰动项。扰动项是一个随机变量，通常

6、用概率分布来描述。3.2随机扰动项的来源对于回归模型称为被解释变量（explainedvariable）也称应变量或因变量（dependentvariable）称为解释变量（explanatoryvariable）也称自变量（independentvariable）称为参数（parameter）称为随机扰动项（randomerrorterm）3.2随机扰动项的来源上式如何解释？可以认为，在给定家庭收入水平上，第i个学生的数学分数可以表达为两部分之和：一是，即，是该收入水平上的平均数学分数。这一部分称为系统或确定性部分。二是，称为非系统或随机成本，由收入以外的因素决定。此时，

7、称为随机总体回归函数（stochasticPRF）。3.2随机扰动项的来源3.2随机扰动项的来源性质1：扰动项代表了未纳入模型变量的影响。例如个人健康状况、居住区域等等。性质2：反映了人类行为的内在随机性。即使模型中包括了决定数学分数的所有变量，其内在随机性也不可避免，这是做任何努力都无法解释的。性质3：还代表了度量误差，例如收入的数据可能不等于真实值。性质4：“奥卡姆剃刀原则”——即描述应该尽可能简单，只要不遗漏重要的信息，此时可以把影响Y的次要因素归入随机扰动项。3.3参数的最小二乘估计参数估计：普通最小二乘法