一元线性回归

《一元线性回归》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、回归分析适合研究哪类问题?回归方程的显著性检验适合什么情况?回归系数的显著性检验适合什么情况?7.1回归分析的基本概念7.1.1因变量(Y)与自变量(X)之间的关系根据因变量与自变量之间的关系不同，可以分为两种类型：函数关系统计关系7.1.1因变量(Y)与自变量(X)之间的关系1.函数关系即对两个变量X，Y来说，当X值确定后，Y值按照一定的规律唯一确定，即形成一种精确的关系。例如:微积分学中所研究的一般变量之间的函数关系就属于此种类型。7.1.1因变量(Y)与自变量(X)之间的关系2.统计关系即当X值确定后，Y值不是唯一确定的，但大量统计资料表明，这些变量之间

2、还是存在着某种客观的联系。例如：图7.1在直角坐标平面上，标出了10个观测点的坐标位置，他们表示以家庭为单位，某种商品年需求量与该商品价格之间的10对调查数据。7.1.2回归分析图7-17.1.2回归分析回归分析(RegressionAnalysis)就是应用统计方法，对大量的观测数据进行整理、分析和研究，从而得出反映事物内部规律性的一些结论。7.2一元线性回归模型7.2.1统计关系的特征统计关系特征观测点散布在统计关系直线的周围，此种情况说明Y的变化除了受自变量X影响以外，还受其他因素的影响。因此试图建立这样一个回归模型，通过对此模型所作的一些假设，可以体现

3、出上述统计关系所刻划的特征。因变量Y随自变量X有规律的变化，而统计关系直线描述了这一变化的趋势。7.2.2一元线性回归模型假设根据统计关系特征，可以进行下述假设：假设(2)这些Y的概率分布的均值，有规律的随X变化而变化(1)对于自变量的每一水平X，存在着Y的一个概率分布；7.2.3一元线性回归模型Y与X具有统计关系而且是线性建立回归模型Yi=β0+β1Xi+εi(i=1,2,···,n)其中，(Xi,Yj)表示(X,Y)的第i个观测值，β0,β1为参数，β0+β1Xi为反映统计关系直线的分量，εi为反映在统计关系直线周围散布的随机分量εi～N(0,σ2)。7.

4、2.3一元线性回归模型对于任意Xi值有：⑴Yi服从正态分布⑵E(Yi)=β0+β1Xi；⑶⑷各Yi间相互独立Yi～N(β0+β1Xi,σ2)。7.2.3一元线性回归模型图7-27.2.4一元线性回归方程最小二乘法Y与X之间为线性关系选出一条最能反映Y与X之间关系规律的直线7.2.4一元线性回归方程Yi=β0+β1Xi+εiβ0和β1均未知根据样本数据对β0和β1进行估计β0和β1的估计值为b0和b1建立一元线性回归方程7.2.4一元线性回归方程一般而言，所求的b0和b1应能使每个样本观测点(Xi,Yi)与回归直线之间的偏差尽可能小，即使观察值与拟合值的误差平方

5、和Q达到最小。图7-4回归方程原理图7.2.4一元线性回归方程令Q达到最小值b0和b1称为最小二乘估计量微积分中极值的必要条件令偏导数为0解方程7.2.4一元线性回归方程(7-5)(7-6)7.2.5最小二乘估计量b0,b1的特性b0,b1的特性线性性无偏性7.2.5最小二乘估计量b0,b1的特性(1)线性特性由（7-5）得令则表明b1是Yi的线性组合7.2.5最小二乘估计量b0,b1的特性同理，可得b0是Yi线性组合7.2.5最小二乘估计量b0,b1的特性(2)无偏性可以证明b0和b1分别是β0和β1的无偏估计7.3总平方和分解7.3.1总平方和分解7.3.

6、1总平方和分解图7-5总平和分解图7.3.1总平方和分解总离差平方和它表示没有X的影响，单纯考察数据中Y的变动情况。7.3.1总平方和分解回归平方和表示各的变动程度，该变动是由于回归直线中各Xi的变动所引起的，并且通过X对Y的线性影响表现出来。7.3.1总平方和分解误差平方和表示各Yi围绕所拟合的回归直线的变动程度SSTO=SSR+SSE7.3.1总平方和分解SSE=SSTO-SSR7.3.2自由度的分解SSTO自由度ƒT为n-1SSEβ0和β1用了两个正规方程自由度ƒE为n-2SSR自由度ƒR为17.3.2自由度的分解自由度的分解可以表示为n-1=1+（n-

7、2）ƒT=ƒR+ƒE7.3.3回归均方与误差均方(7-10)(7-11)回归均方误差均方7.4样本确定系数与样本相关系数7.4.1样本确定系数(7-12)注:Y的总变差中能被X解释的那部分所占的比率7.4.1样本确定系数r2的取值范围样本的全部观察值都落在所拟和的回归直线上SSE=0，r2=1当X与Y无关，Y的变差完全由于随机因素引起，此时，SSR=0r2=07.4.2样本相关系数样本相关系数注:r与b1的分母均为正，分子相同,故r与b1有相同的符号。7.4.2样本相关系数r的取值情况情况一图7-67.4.2样本相关系数情况二图7-77.4.2样本相关系数情况

8、三图7-87.4.2样本相关系数情况四