线性回归方程公式证明

《线性回归方程公式证明》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

线性回归方程公式证明

1必修3(第二章统计)知识结构收集数据(随机抽样)整理、分析数据估计、推断简单随机抽样分层抽样系统抽样用样本估计总体变量间的相关关系用样本的频率分布估计总体分布用样本数字特征估计总体数字特征线性回归分析

2统计的基本思想实际样本模拟抽样分析

3两个变量的关系不相关相关关系函数关系线性相关非线性相关现实生活中两个变量间的关系有哪些呢？

4思考：相关关系与函数关系有怎样的不同？函数关系中的两个变量间是一种确定性关系相关关系是一种非确定性关系函数关系是一种理想的关系模型相关关系在现实生活中大量存在，是更一般的情况

5自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关系叫做相关关系。1、定义：1）：相关关系是一种不确定性关系；注对具有相关关系的两个变量进行统计分析的方法叫回归分析。2）：

62、现实生活中存在着大量的相关关系。如：人的身高与年龄；产品的成本与生产数量；商品的销售额与广告费；家庭的支出与收入。等等探索：水稻产量y与施肥量x之间大致有何规律？

71020304050500450400350300·······发现：图中各点，大致分布在某条直线附近。探索2：在这些点附近可画直线不止一条，哪条直线最能代表x与y之间的关系呢？xy施化肥量水稻产量施化肥量x15202530354045水稻产量y330345365405445450455散点图

81020304050500450400350300·······xy施化肥量水稻产量怎样求回归直线？

9最小二乘法：称为样本点的中心。

10（3）对两个变量进行的线性分析叫做线性回归分析。2、回归直线方程：（2）相应的直线叫做回归直线。（1）所求直线方程叫做回归直线方程；其中（注意回归直线一定经过样本点的中心）

11例1假设关于某设备的使用年限x和所有支出的维修费用y(万元)有如下的统计数据：x23456Y2.23.85.56.57.0若由此资料所知y对x呈线性相关关系，试求：回归直线方程估计使用年限为10年时，维修费用是多少？解题步骤：作散点图2.把数据列表，计算相应的值，求出回归系数3.写出回归方程,并按要求进行预测说明。

12例2（2007年广东）下表提供了某厂节能降耗技术改造后生产甲产品过程中记录的产量x（吨）与相应的生产能耗y(吨标准煤)的几组对应数据。X3456y2.5344.5请画出上表数据的散点图请根据上表提供的数据，用最小二乘法求出y关于x的性回归方程(3)已知该厂技改前100吨甲产品的生产能耗为90吨标准煤，试根据（2）求出的线性回归方程，预测生产100吨甲产品的生产能耗比技改前降低多少吨标准煤？（参考数值：）

13小结：求回归直线方程的步骤（2）所求直线方程叫做回归直线方程；其中（1）作散点图，通过图看出样本点是否呈条状分布，进而判断两个量是否具有线性相关关系。（3）根据回归方程，并按要求进行预测说明。

14相关系数1.计算公式2．相关系数的性质(1)|r|≤1．(2)|r|越接近于1，相关程度越大；|r|越接近于0，相关程度越小．问题：达到怎样程度，x、y线性相关呢？它们的相关程度怎样呢？

15负相关正相关

16相关系数ｒ＞０正相关；ｒ＜０负相关．通常，r∈[-1,-0.75]--负相关很强;r∈[0.75,1]—正相关很强;r∈[-0.75,-0.3]--负相关一般;r∈[0.3,0.75]—正相关一般;r∈[-0.25,0.25]--相关性较弱;

17第一章统计案例1.1回归分析的基本思想及其初步应用（第二课时）

18a.比《数学3》中“回归”增加的内容数学３——统计画散点图了解最小二乘法的思想求回归直线方程y＝bx＋a用回归直线方程解决应用问题选修１-２——统计案例引入线性回归模型y＝bx＋a＋e了解模型中随机误差项e产生的原因了解相关指数R2和模型拟合的效果之间的关系了解残差图的作用利用线性回归模型解决一类非线性回归问题正确理解分析方法与结果

19什么是回归分析：“回归”一词是由英国生物学家F.Galton在研究人体身高的遗传问题时首先提出的。根据遗传学的观点，子辈的身高受父辈影响，以X记父辈身高，Y记子辈身高。虽然子辈身高一般受父辈影响，但同样身高的父亲，其子身高并不一致，因此，X和Y之间存在一种相关关系。一般而言，父辈身高者，其子辈身高也高，依此推论，祖祖辈辈遗传下来，身高必然向两极分化，而事实上并非如此，显然有一种力量将身高拉向中心，即子辈的身高有向中心回归的特点。“回归”一词即源于此。虽然这种向中心回归的现象只是特定领域里的结论，并不具有普遍性，但从它所描述的关于X为自变量，Y为不确定的因变量这种变量间的关系看，和我们现在的回归含义是相同的。不过，现代回归分析虽然沿用了“回归”一词，但内容已有很大变化，它是一种应用于许多领域的广泛的分析研究方法，在经济理论研究和实证研究中也发挥着重要作用。

20回归分析的内容与步骤：统计检验通过后，最后是利用回归模型，根据自变量去估计、预测因变量。回归分析通过一个变量或一些变量的变化解释另一变量的变化。其主要内容和步骤是，首先根据理论和对问题的分析判断，将变量分为自变量和因变量；其次，设法找出合适的数学方程式（即回归模型）描述变量间的关系；由于涉及到的变量具有不确定性，接着还要对回归模型进行统计检验；

21例1从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。编号12345678身高/cm165165157170175165155170体重/kg4857505464614359求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为172cm的女大学生的体重。案例1：女大学生的身高与体重解：1、选取身高为自变量x，体重为因变量y，作散点图：2、由散点图知道身高和体重有比较好的线性相关关系，因此可以用线性回归方程刻画它们之间的关系。3、从散点图还看到，样本点散布在某一条直线的附近，而不是在一条直线上，所以不能用一次函数y=bx+a描述它们关系。我们可以用下面的线性回归模型来表示：y=bx+a+e，其中a和b为模型的未知参数，e称为随机误差。思考P3产生随机误差项e的原因是什么？

22思考P4产生随机误差项e的原因是什么？随机误差e的来源(可以推广到一般）：1、其它因素的影响：影响身高y的因素不只是体重x，可能还包括遗传基因、饮食习惯、生长环境等因素；2、用线性回归模型近似真实模型所引起的误差；3、身高y的观测误差。

23函数模型与回归模型之间的差别函数模型：回归模型：可以提供选择模型的准则

24函数模型与回归模型之间的差别函数模型：回归模型：线性回归模型y=bx+a+e增加了随机误差项e，因变量y的值由自变量x和随机误差项e共同确定，即自变量x只能解析部分y的变化。在统计中，我们也把自变量x称为解析变量，因变量y称为预报变量。

25例1从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。编号12345678身高/cm165165157170175165155170体重/kg4857505464614359求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为172cm的女大学生的体重。案例1：女大学生的身高与体重解：1、选取身高为自变量x，体重为因变量y，作散点图：2、由散点图知道身高和体重有比较好的线性相关关系，因此可以用线性回归方程刻画它们之间的关系。3、从散点图还看到，样本点散布在某一条直线的附近，而不是在一条直线上，所以不能用一次函数y=bx+a描述它们关系。我们可以用下面的线性回归模型来表示：y=bx+a+e，其中a和b为模型的未知参数，e称为随机误差。

26例1从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。5943616454505748体重/kg170155165175170157165165身高/cm87654321编号求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为172cm的女大学生的体重。根据最小二乘法估计和就是未知参数a和b的最好估计，制表xi2xiyiyixi78合计654321i

27例1从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。5943616454505748体重/kg170155165175170157165165身高/cm87654321编号求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为172cm的女大学生的体重。根据最小二乘法估计和就是未知参数a和b的最好估计，于是有b=所以回归方程是所以，对于身高为172cm的女大学生，由回归方程可以预报其体重为探究P4：身高为172cm的女大学生的体重一定是60.316kg吗？如果不是，你能解析一下原因吗？

28探究P4：身高为172cm的女大学生的体重一定是60.316kg吗？如果不是，你能解析一下原因吗？答：身高为172cm的女大学生的体重不一定是60.316kg，但一般可以认为她的体重在60.316kg左右。

29对回归模型进行统计检验

30表1-4列出了女大学生身高和体重的原始数据以及相应的残差数据。在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，是否可以用回归模型来拟合数据。残差分析与残差图的定义：然后，我们可以通过残差来判断模型拟合的效果，判断原始数据中是否存在可疑数据，这方面的分析工作称为残差分析。编号12345678身高/cm165165157170175165155170体重/kg4857505464614359残差-6.3732.6272.419-4.6181.1376.627-2.8830.382我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本编号，或身高数据，或体重估计值等，这样作出的图形称为残差图。

31残差图的制作及作用。坐标纵轴为残差变量，横轴可以有不同的选择；若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域；对于远离横轴的点，要特别注意。身高与体重残差图异常点错误数据模型问题几点说明：第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。

32样本决定系数（判定系数R2）1.回归平方和占总偏差平方和的比例反映回归直线的拟合程度取值范围在[0,1]之间R21，说明回归方程拟合的越好；R20，说明回归方程拟合的越差判定系数等于相关系数的平方，即R2＝(r)2

33我们可以用相关指数R2来刻画回归的效果，其计算公式是显然，R2的值越大，说明残差平方和越小，也就是说模型拟合效果越好。在线性回归模型中，R2表示解析变量对预报变量变化的贡献率。R2越接近1，表示回归的效果越好（因为R2越接近1，表示解析变量和预报变量的线性相关性越强）。如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较R2的值来做出选择，即选取R2较大的模型作为这组数据的模型。总的来说：相关指数R2是度量模型拟合效果的一种指标。在线性模型中，它代表自变量刻画预报变量的能力。

34我们可以用相关指数R2来刻画回归的效果，其计算公式是1354总计0.36128.361残差变量0.64225.639解释变量比例平方和来源表1-3从表3-1中可以看出，解析变量对总效应约贡献了64%，即R20.64，可以叙述为“身高解析了64%的体重变化”，而随机误差贡献了剩余的36%。所以，身高对体重的效应比随机误差的效应大得多。

35用身高预报体重时，需要注意下列问题：1、回归方程只适用于我们所研究的样本的总体；2、我们所建立的回归方程一般都有时间性；3、样本采集的范围会影响回归方程的适用范围；4、不能期望回归方程得到的预报值就是预报变量的精确值。事实上，它是预报变量的可能取值的平均值。——这些问题也使用于其他问题。涉及到统计的一些思想：模型适用的总体；模型的时间性；样本的取值范围对模型的影响；模型预报结果的正确理解。小结：

36一般地，建立回归模型的基本步骤为：（1）确定研究对象，明确哪个变量是解析变量，哪个变量是预报变量。（2）画出确定好的解析变量和预报变量的散点图，观察它们之间的关系（如是否存在线性关系等）。（3）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程y=bx+a）.（4）按一定规则估计回归方程中的参数（如最小二乘法）。（5）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等等），过存在异常，则检查数据是否有误，或模型是否合适等。

37建构数学模型我们将y=bx+a+e称为线性回归模型．其中a,b为模型的未知参数，解释变量x，预报变量y，e称为随机误差。思考1：e产生的主要原因是什么？(1)所用确定函数模型不恰当；(2)忽略了某些因素的影响；(3)观测误差。

38思考2：如何检查拟合效果的好坏？（1）散点图（2）相关系数（3）残差分析（4）回归效果的相关系数

39被害棉花红铃虫喜高温高湿，适宜各虫态发育的温度为25一32C，相对湿度为80％一100％，低于20C和高于35C卵不能孵化，相对湿度60％以下成虫不产卵。冬季月平均气温低于一4．8℃时，红铃虫就不能越冬而被冻死。问题情景1953年，18省发生红铃虫大灾害，受灾面积300万公顷，损失皮棉约二十万吨。

40温度xoC21232527293235产卵数y/个711212466115325例2、现收集了一只红铃虫的产卵数y和温度x之间的7组观测数据列于下表：（1）试建立产卵数y与温度x之间的回归方程；并预测温度为28oC时产卵数目。（2）你所建立的模型中温度在多大程度上解释了产卵数的变化？问题呈现：

41假设线性回归方程为：ŷ=bx+a选变量画散点图选模型分析和预测估计参数由计算器得：线性回归方程为y=19.87x-463.73相关指数R2=r2≈0.8642=0.7464解：选取气温为解释变量x，产卵数为预报变量y。所以，一次函数模型中温度解释了74.64%的产卵数变化。问题探究050100150200250300350036912151821242730333639方案1当x=28时，y=19.87×28-463.73≈93

42教法93>66！?模型不好？奇怪？

43y=bx2+a变换y=bx+a非线性关系线性关系方案2问题１选用y=bx2+a，还是y=bx2+cx+a？问题3产卵数气温问题2如何求a、b？合作探究

44方案2解答平方变换：令t=x2，产卵数y和温度x之间二次函数模型y=bx2+a就转化为产卵数y和温度的平方t之间线性回归模型y=bt+a温度21232527293235温度的平方t44152962572984110241225产卵数y/个711212466115325作散点图，并由计算器得：y和t之间的线性回归方程为y=0.367t-202.54，相关指数R2=r2≈0.8962=0.802将t=x2代入线性回归方程得：y=0.367x2-202.54当x=28时，y=0.367×282-202.54≈85，且R2=0.802，所以，二次函数模型中温度解释了80.2%的产卵数变化。t教法0.367-202.54R2=r2≈0.8962=0.802y=0.367x2-202.54

45问题２变换y=bx+a非线性关系线性关系问题１如何选取指数函数的底?产卵数气温指数函数模型方案3合作探究教法对数

46令，则就转换为z=bx+a对数变换：在中两边取常用对数得方案3解答温度xoC21232527293235z=lgy0.851.041.321.381.822.062.51产卵数y/个711212466115325xz由计算器得：z关于x的线性回归方程为z=0.118x-1.665，相关指数R2=r2≈0.99252=0.985当x=28oC时，y≈44，指数回归模型中温度解释了98.5%的产卵数的变化

47最好的模型是哪个?产卵数气温产卵数气温线性模型二次函数模型指数函数模型教法

48函数模型相关指数R2线性回归模型0.7464二次函数模型0.802指数函数模型0.985最好的模型是哪个?教法比一比

49选修1-2：P13-3练习小结:（1）如何发现两个变量的关系？（2）如何选用、建立适当的非线性回归模型？（3）如何比较不同模型的拟合效果？归纳小结