资源描述:
《中南大学概率论课件 tl第8章 回归分析与方差分析.ppt》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、第八章回归分析与方差分析机动目录上页下页返回结束第八章回归分析与方差分析一元线性回归模型多元线性回归模型单因素方差分析双因素方差分析8.1一元线性回归模型变量与变量之间的关系当自变量给定一个值时,就有确定的因变量的值与之对应.如:在自由落体中,物体下落的高度h与下落时间t之间有函数关系:确定性关系相关关系确定性关系机动目录上页下页返回结束变量之间的关系并不确定,而是表现为具有随机性的一种“趋势”.即对自变量x的同一值,在不同的观测中,因变量y可以取不同的值,而且取值是随机的,但对应x在一定范围的不同值,对
2、y进行观测时,可以观察到y随x的变化而呈现有一定趋势的变化.相关关系机动目录上页下页返回结束如:父亲的身高与儿子的身高之间有一定联系,通常父亲高,儿子也高.但两者间不存在一个确切的函数表达式.回归分析——研究相关关系的最基本,应用最广泛的方法.机动目录上页下页返回结束一元回归分析是研究两个变量之间的相关关系的方法.如果两个变量之间的关系是线性的,这就是一元线性回归问题.一元线性回归问题主要分以下三个方面:(1)通过对大量试验数据的分析处理,得到两个变量之间的经验公式即一元线性回归方程.(2)对经验公式的可
3、信程度进行检验,判断经验公式是否可信.(3)利用已建立的经验公式,进行预测和控制.机动目录上页下页返回结束在一元线性回归分析里,主要是考察随机变量y与普通变量x之间的关系.通过试验,可得到x、y的若干对实测数据,将这些数据在坐标系中描绘出来,所得到的图叫做散点图.散点图与回归直线机动目录上页下页返回结束xi0410152129366168yi66.771.076.380.685.792.999.4113.6125.1例1在硝酸钠(NaNO3)的溶解度试验中,测得在不同温度x(℃)下,溶解于100份水中的硝
4、酸钠份数y的数据如下:给出散点图并试建x与y的经验公式.解:将每对观察值(xi,yi)在直角坐标系中描出,得散点图.从图可看出,这些点虽不在一条直线上,但都在一条直线附近.机动目录上页下页返回结束机动目录上页下页返回结束于是,很自然会想到用一条直线来近似地表示x与y之间的关系,这条直线的方程就叫做y对x的一元线性回归方程.设这条直线的方程为,其中叫做回归系数(表示直线上y的值与实际值yi不同)下面是怎样确定,使直线总的看来最靠近这几个点.机动目录上页下页返回结束最小二乘法在一次试验中,取得n对数据(xi,
5、yi),其中yi是随机变量y对应于xi的观察值.我们所要求的直线应该是使所有之和最小的一条直线,其中.由于绝对值在处理上比较麻烦,所以用平方和来代替,即要求的值使最小.利用多元函数求极值的方法求回归系数.机动目录上页下页返回结束令整理得—正规方程组为求使机动目录上页下页返回结束其中机动目录上页下页返回结束从而得到一元线性回归方程,其中称为参数的最小二乘估计,上述方法叫做最小二乘估计法.机动目录上页下页返回结束下面计算例1中y对x的一元线性回归方程.这里n=9,(xi,yi)由例1给出,计算出机动目录上页下
6、页返回结束故所求回归方程为机动目录上页下页返回结束8.2多元线性回归实际应用中,很多情况要用到多元回归的方法才能更好地描述变量间的关系,因此有必要在本节对多元线性回归做一简单介绍,就方法的实质来说,处理多元的方法与处理一元的方法基本相同,只是多元线性回归的方法复杂些,计算量也大得多,一般都用计算机进行处理.机动目录上页下页返回结束多元线性回归的模型设因变量y与自变量之间有关系式抽样得n组观测数据机动目录上页下页返回结束其中是自变量的第i个观测值,是因变量y的第j个值,得模型的数据结构式机动目录上页下页返回
7、结束上述模型即称为p元正态线性回归模型,其中及都是未知待估的参数,对p元线性模型,需讨论的问题与一元时相同.机动目录上页下页返回结束参数估计与一元时一样,采用最小二乘法估计回归系数,称使达到最小的为参数的最小二乘估计.机动目录上页下页返回结束机动目录上页下页返回结束利用微积分知识,最小二乘估计就是如下方程组的解机动目录上页下页返回结束整理得该方程组称为正规方程组.可用矩阵形式表达.令机动目录上页下页返回结束机动目录上页下页返回结束正规方程组用矩阵表示为X称为结构矩阵.为正规方程组的系数矩阵.为正规方程组的
8、常数项矩阵.机动目录上页下页返回结束假设可逆,则的最小二乘估计为回归方程为预测给出任意一组变量的值可以计算对应y0的预测值机动目录上页下页返回结束例某公司在各地区销售一种特殊化妆品.该公司观测了15个城市在某月内对该化妆品的销售量y及各地区适合使用该化妆品的人数x1和人均收入x2,得到如下数据表化妆品销售的调查数据地区i销售量yi人数xi1收入xi2116227424502120180325432233753802413120