直线回归与相关

《直线回归与相关》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第六章直线回归与相关客观事物在发展过程中是相互联系、相互影响，常常要研究两个或两个以上变量间的关系。下一张主页退出上一张下一张主页退出上一张1回归与相关的概念一类是完全确定性的关系，又称函数关系，可以用精确的数学表达式来表示，即当变量x的值取定后，变量y有唯一确定的值与之对应。如长方形的面积（S）与长（a）和宽（b）的关系：S=ab。它们之间的关系是确定性的，只要知道了其中两个变量的值就可以精确地计算出另一个变量的值，这类变量间的关系称为函数关系。各种变量间的关系大致可分为两类：确定性关系非确定性

2、关系如人的身高与体重的关系，作物种植密度与产量的关系，食品价格与需求量的关系等等，这些变量间都存在着十分密切的关系，但不能由一个或几个变量的值精确地求出另一个变量的值。统计学中把这些变量间的关系称为相关关系，把存在相关关系的变量称为相关变量。下一张主页退出上一张另一类是非确定性关系，不能用精确的数学公式来表示，当变量x的值取定后，y有若干种可能取值。在一定范围内，对一个变量的任意数值（Xi），虽然没有另一个变量的确定数值yi与之对应，但是却有一个特定yi的条件概率分布与之对应，这种变量的不确定关系

3、，称为相关关系。一种是因果关系，即一个变量的变化受另一个或几个变量的影响。如小麦的生长速度受遗传特性、营养水平、管理条件等因素的影响。另一种是平行关系，它们互为因果或共同受到另外因素的影响。如人的身高和胸围之间的关系属于平行关系。下一张主页退出上一张相关变量间的关系一般分为两种:研究“一因一果”，即一个自变量与一个依变量的回归分析称为一元回归分析；研究“多因一果”，即多个自变量与一个依变量的回归分析称为多元回归分析。一元回归分析又分为直线回归分析与曲线回归分析两种；多元回归分析又分为多元线性回归分

4、析与多元非线性回归分析两种。下一张主页退出上一张统计学上采用回归分析（regressionanalysis）方法研究呈因果关系的相关变量间的关系。表示原因的变量称为自变量，表示结果的变量称为依变量。回归分析的任务就是揭示出呈因果关系的相关变量间的联系形式，建立它们之间的回归方程，利用所建立的回归方程，由自变量（原因）来预测、控制依变量（结果）。回归分析主要包括：找出回归方程；检验回归方程是否显著；通过回归方程来预测或控制另一变量。对多个变量进行相关分析时，研究一个变量与多个变量间的线性相关称为复相

5、关分析；研究其余变量保持不变的情况下两个变量间的线性相关称为偏相关分析。下一张主页退出上一张统计学上采用相关分析(correlationanalysis)来研究呈平行关系相关变量之间的关系。对两个变量间的直线关系进行相关分析称为简单相关分析（也叫直线相关分析）；2直线回归2.1直线回归方程的建立下一张主页退出上一张为了直观地看出x和y间的变化趋势，可将每一对观测值在平面直角坐标系中描点，作出散点图（见图6-1）。2.1.1数学模型对于两个相关变量，一个变量用x表示，另一个变量用y表示，如果通过试验

6、或调查获得两个变量的n对观测值：（x1，y1），（x2，y2），……，（xn，yn）图6-1x与y的关系散点图下一张主页退出上一张散点图可直观地、定性地表示了两个变量之间的关系。为了探讨它们之间的规律性，还必须根据观测值将其内在关系定量地表达出来。①两个变量间有关或无关；若有关，两个变量间关系类型，是直线型还是曲线型；由散点图（图6-1）可以看出：②两个变量间直线关系的性质（是正相关还是负相关）和程度（是相关密切还是不密切）；由于依变量y的实际观测值总是带有随机误差，因而依变量y的实际观测值yi可

7、用自变量x的实际观测值xi表示为：（i=1,2,…,n）（6-1）若呈因果关系的两个相关变量y（依变量）与x（自变量）间的关系是直线关系，，那么，根据n对观测值所描出的散点图，如图6-1（b）和图6-1（e）所示。式中：α，β为未知参数，i为相互独立，且服从N（0，）的随机变量。这就是直线回归的数学模型。总体线性回归模型的图示YX观察值观察值总体线性回归模型因变量自变量参数随机误差y条件平均数下一张主页退出上一张设回归直线方程为:（6-2）2.1.2参数α，β的估计其中，是α的估计值，b是β的估

8、计值。最小二乘估计法建立样本线性回归方程的方法最小二乘法实际观察值与样本回归线上的点的距离的平方和最小xye1e2e3e4最小、b应使回归估计值与实际观测值y的偏差平方和最小，即：总的离回归平方和，即剩余平方和根据微积分学中的求极值的方法，令Q对a、b的一阶偏导数等于0，即：最小（6-3）（6-4）经整理，得关于a、b的正规方程组：下一张主页退出上一张解正规方程组，得：（6-5）（6-7）在6-7式中，分子为自变量x的离均差与依变量y的离均差的乘积和，简称乘积和，记作，分母是自变