资源描述:
《《统计学》线性回归模型.ppt》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库。
1、第八章 回归和相关分析1§1导 言2在自然界和人类社会中,经常会遇到一些变量共处于一个统一体中,他们相互联系,相互制约,在一定条件下相互转化。社会经济现象尤其如此。例如某生产厂家的生产费用由所生产的产品数量和各种生产投入要素的价格等因素所决定。3在社会经济现象中,变量之间的关系大致可以分为两种:1).函数关系2).统计关系。4函数关系:变量之间依一定的函数形式形成的一一对应关系称为函数关系。若两个变量分别记作y和x,则当y与x之间存在函数关系时,x值一旦被指定,y值就是唯一确定的。函数关系可以用公式确切的反映出来,一般记为y
2、=f(x)。5例如,某种商品的销售额(y)与销售量(x)之间的关系,在销售价格(p)一定的条件下,只要给定一个商品销售量,就有一个唯一确定的商品销售额与之对应,用公式表示为y=p(x)。6统计关系:两个变量之间存在某种依存关系,但变量Y并不是由变量X唯一确定的,它们之间没有严格的一一对应关系。两个变量之间的这种关系就是统计关系,也称为相关关系。7相关关系与函数关系有十分密切的联系。在实际中,由于观察和测量误差等原因,函数关系往往是通过相关关系表现的,而在研究相关关系时,又常用函数关系作为工具,以相应的函数关系数学表达式表现相
3、关关系的一般数量关系。8例如:同样收入的家庭,用于食品的消费支出往往并不相同。因为对家庭食品费用的影响,不仅有家庭收入的多少,还有家庭人口,生活习惯等因素,所以,家庭食品费用支出与家庭收入之间不是函数关系,而是相关关系。9在含有变量的系统中,考察一些变量对另一些变量的影响,它们之间可能存在一种简单的函数关系,也可能存在一种非常复杂的函数关系。有些变量之间的关系是非确定性的关系,这种关系无法用一个精确的数学来表示。10我们需要区分两种主要类型的变量。一种变量相当于通常函数关系中的自变量,它或者能控制或者虽不能控制但可观测,这种
4、变量称为自变量。自变量的变化能波及另一些变量,这样的变量称为因变量。人们通常感兴趣的问题是自变量的变化对因变量的取值有什么样的影响。11回归分析正是研究自变量的变动对因变量的变动的影响程度,其目的在于根据已知自变量的变化来估计或预测因变量的变化情况。12回归的内容包括如何确定因变量与自变量之间的回归模型;如何根据样本观测数据估计并检验回归模型及未知参数;在众多的自变量中,判断哪些变量对因变量的影响是显著的,哪些变量的影响是不显著的;根据自变量的已知值或给定值来估计和预测因变量的平均值等等。13线性回归分析是研究变量与变量之间
5、的线性相关关系。从分析的内容上看,线性回归是建立变量间的拟合线性相关模型,主要用于估计和预测。线性回归模型应用领域极为广泛,在许多领域里都有应用非常成功的例子,它是现代应用统计分析方法中的重要内容之一。14§2 一元线性回归模型158.2.1一元线性回归模型的数学表示式如果两个变量之间存在相关关系,并且一个变量的变化会引起另一个变量按某一线性关系变化,则两个变量间的关系可以用一元线性回归模型描述。16其数学模型为:y=…(8-1)其中,y为因变量,x为自变量,为模型参数,为回归截距,为回归系数,为随机误差项,且~N(0,).
6、17在实际问题中,(8-1)中的模型参数是未知的,通常只能在自变量的一些点上对因变量进行观测,得到一定量的数据,由数据出发对模型进行推断。188.2.2回归系数的最小二乘估计。假定(),(),…,()为n次独立试验所得到的样本观测值,则有,i=1,2,…,n…(8-2)其中i,i=1,2,…,n为随机误差项,对i,i=1,2,…,n的基本假定是i,i=1,2,…,n相互独立,服从N(0,)分布。19记Q()=Q()是直线y=对于所有数据点的偏差平方和。取直线y=使得Q()达到最小即Q()=Q(),z用y=来估计回归直线,这种
7、方法称为最小二乘法。20为求与分别对应的最小二乘估计,注意到Q()是的非负二次函数,因此最小值点存在且唯一,应满足以下方程组:21求解方程组得:其中,228.2.3利用最小二乘法所得到的估计量有如下性质:(1)分别是的无偏估计。(2)和的最小二乘估计和为“方差最小”线性无偏估计(3)的无偏估计为:23在实际中,方差是未知的,因此,可用估计量来估计。24例题1、在某类企业中随机抽取10个企业,搜集它们的产量和生产费用情况,获得数据如表1所示:25表1企业产量和生产费用26我们可作出散点图,易看出变量x与y之间的关系近似可看作是
8、线性关系,根据表1的数据,利用最小二乘法,求一元线性回归方程,27以下列出的为计算表2829==134.7909+0.3978x为所求的一元回归模型。308.2.4一元线性回归模型的检验我们根据样本观测值,利用最小二乘法建立起一元线性回归模型=,该模型是否满足回归模型的基本假设,还需要进行