大连理工工程数学 课件 赵文茹 概率与统计统计第六章回归分析与.ppt

《大连理工工程数学 课件 赵文茹 概率与统计统计第六章回归分析与.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第六章回归分析与方差分析本章问题引入：回归分析与方差分析是数理统计的两个重要分支。在解决实际问题中，它们有着非常重要的用途。本章着重介绍一元线性回归分析的数学模型和解决问题的方法，而把二元线性回归分析和方差分析作为选学内容。第六章回归分析与方差分析6.1回归分析※6.2二元线性回归分析※6.3方差分析回归分析（RegressionAnalysis）“回归”（英文“regression”）最初是由英国著名生物学家兼统计学家高尔顿（Galton）在研究人类遗传问题时提出来的。为了研究父代与子代身高的关系，高尔顿搜集了1078对父亲及其儿子的身高数据

2、。他发现这些数据的散点图大致呈直线状态，也就是说，总的趋势是父亲的身高增加时，儿子的身高也倾向于增加。但是，高尔顿对试验数据进行了深入的分析，发现了一个很有趣的现象—回归效应。因为当父亲高于平均身高时，他们的儿子身高比他更高的概率要小于比他更矮的概率；父亲矮于平均身高时，他们的儿子身高比他更矮的概率要小于比他更高的概率。它反映了一个规律，即这两种身高父亲的儿子的身高，有向他们父辈的平均身高回归的趋势。对于这个一般结论的解释是：大自然具有一种约束力，使人类身高的分布相对稳定而不产生两极分化，这就是所谓的回归效应。高尔顿依试验数据还推算出儿子身高(

3、Y)与父亲身高(X)的关系式：Y=a+bX它代表的是一条直线称为回归直线，并把相应的统计分析称为回归分析。但是，上式仅反映了变量相关关系的一种特殊情况，对于更多的相关关系，特别是涉及多个变量的情况，并非如此。将对应的相关分析，都称为回归分析，不一定恰当。可是，这个词却一直沿用下来。总而言之，回归分析（RegressionAnalysis）是研究一个变量与其它若干变量之间相关关系的一种数学工具，它是在一组试验或观测数据的基础上，寻找被随机性掩盖了的变量之间的依存关系。粗略地讲，可以理解为用一种确定的函数关系去近似代替比较复杂的相关关系，这个函数称

4、为回归函数，在实际问题中称为经验公式。回归分析所研究的主要问题就是如何利用变量的观察值（样本），对回归函数进行统计推断，包括对它进行估计及检验与它有关的假设等。6.1.1一元线性回归分析1.一元线性回归分析模型设变量x和Y之间存在着相关关系，其中x是可以精确测量或可控制的变量（非随机变量），Y是一个随机变量。假定Y和x存在着线性相关关系。先看下面一个例子。【例1】考察某种化工原料在水中的溶解度与温度的关系，共作了9组试验。其数据如表6-1所示，其中表示Y溶解度，表示x温度。温度01020304050607080溶解度14.017.521.226

5、.129.233.340.048.054.8画出散点图，见图6-1,这些点虽然是散乱的，但大体上散布在某条直线Y=a+bx的周围，即是说温度x与溶解度Y之间大致呈现线性关系：其中不是Y的实际值y，是估计值。一般地，用线性函数a+bx来估计Y的数学期望的问题，称为一元线性回归问题。称方程为Y的关于x的线性回归方程，称斜率b为回归系数。对于x的每个值，设或其中是与x无关的常数。下面看怎样确定a和b，使直线总的看来最靠近这几个点。2.最小二乘法估计在一次试验中，取得n对数据，其中是随机变量y对应于的观察值。我们所要求的直线应该是使所有之和最小的一条直

6、线，其中。由于绝对值在处理上比较麻烦，所以用平方和来代替，即要求a,b的值使最小。令为离差平方和为了使得Q取得最小值，将Q分别对a和b求偏导数，并令它们等于零，得或者写成（6-1-5）由于则（6-1-5）式可以写作所得方程组（6-1-8）称为正规方程组。因为不完全相同，所以方程组（6-1-8）的系数行列式故方程组（6-1-8）有唯一的一组解(6-1-9)记（6-1-10）(6-1-11)(6-1-12)分别称和为x和Y的离差平方和，称为和的离差乘积和.则有（6-1-13）将（6-1-13）代入到回归方程（6-1-1）中，则得到经验回归方程（6-

7、1-14）其中，称为参数a,b的最小二乘估计，上述方法叫做最小二乘估计法。（6-1-14）式中的(6-1-1)式中的不同，由理论回归方程（6-1-1）所确定的对应于数值的x随机变量Y的数学期望，而是由经验回归方程(6-1-14)所确定的对应于数值x的随机变量Y的数学期望的估计，它将会随着观测值的不同而变化.称为回归值.在直角坐标系中，方程（6-1-14）是一条直线，因此称为经验回归直线.将代入（6-1-14）式中，可得（6-1-15）此式表明，对于一组观测值,经验回归直线（6-1-14）通过散点图的几何中心。下面计算例1中Y对x的一元线性回归方

8、程。【例2】求例1中溶解度Y关于温度x的线性回归方程.解：由表6-1数据，列表计算，如表6-21234010203014.017.521.226.10