资源描述:
《ch9回归分析及方差分析》由会员上传分享,免费在线阅读,更多相关内容在工程资料-天天文库。
1、第9章回归分析及方差分析9.1回归分析的概念变量间的关系确定性关系(函数关系):非确定性关系(相关关系):客观世界中普遍存在着变量之间的关系,大致可以分为两类:y=fM;z=f(x,y)等;如人的体重与身高、血压与年龄、气象屮的温变与湿度等.这种非确定性关系大量存在•比如人的身高兀大时一般地说其体重Y也倾向于大.但身高兀相同的人其体重丫也不完全相同.又比如,气象中空气的湿度丫与温度兀有关.温度不同,湿度也会不同.但即使在温度兀相同的情况下,空气的湿度也不完全相同.这两个例子中变量兀和丫的关系也是相关关系.研究变量间相关关系的统计分析方法称为回归分析.以上的
2、例子中,兀通常称为自变量,丫通常称为因变量或响应变量.当自变量工的值确定之后,因变量丫的值还不能完全确定,把它看作随机变量.若兀的值确定,对应的随机变量Y的值虽不能完全确定,但丫的数学期望应随之确定,它是工的函数,记作“任),称为丫关于的回归函数.自变量兀与因变量Y之间的关系可描述为模型:Y=“(兀)+£9(1)其中£是随机误差,满足=0.模型(1)中只有一个自变量,基于这个模型的统计分析称为一元回归分析.若“(对是X的线性函数,即“O)=0o+01X,模型(1)可化为:丫=0。+01兀+£,(2)其中0。是常数项,A称为回归系数.模型(2)称为一元线性回
3、归模型,基于(2)的统计分析称为一元线性回归分析.回归函数“(X)是未知的.回归分析的任务就是,用所获得的关于兀和丫的观察值估计“(兀),讨论有关的假设检验与区间估计问题,并利用对于“(X)的估计进行预报等.为了确定“(X)的形式可根据专业知识或经验,也可通过画散点图获得帮助.对于变量(X,。作n次观察,得到n对观察值Gw)(兀2,为),・••,(£,儿).将每对观察值(””),(21,2,…丿)所对应的点在直角坐标系中描出,得到散点图•由于X•中包含了随机误差,因此其观察值%在“(兀)周点(无],必),(勺,儿),…,兀宀儿)分布在曲线Y=//(%)附近
4、.散点图如图1所示,则可将“(兀)取为兀的线性函数;若散点图如2所示,则将“(Q取为兀的线性函数显然是不妥当的.这种情况将在后面详细讨论.图1散点图I()X图2散点图II线性回归的应用[预测问题在一定置信水平下’估计岀当"取某一值酬随机变量丫取值的情况;沃I土」门口控制问题:在一定置信水平下,控制自变量兀的取值范围,使Y在给定的范围取值.9.2一元线性回归的截距和斜率.还假定EW本节考虑一元线性回归模型:丫=0o+0m+£,(1)其中00和01都是未知参数.00和0是直线“(兀)=0()+0XVar^)=a2>0.十称为误差方差,它也是未知参数.对于一
5、元线性回归,估计“(兀)的问题就转化为求仇和属的估计问题.用适当的统计方法获得炕和肉的估计值久和A之后,对于给定的兀就可用齢BX作为“(无)=0。+0兀的估计.称〃(x)=Po+加为丫关于兀的经验回归函数.M:y=A+Ax,(2)称为丫关于x的(经验)线性回归方程,或(经验)回归方程,其图形称为(经验)回归直线.在一元线性回归分析中主要解决三个问题:(i)对未知参数00、01和/作点估计,由此获得回归方程;(ii)对回归系数01作假设检验;(iii)对于自变量兀的给定值兀0,对相应的因变量Y的取值人作预测.—X00和01的估计及其性质1.00和0]的最小
6、二乘估计对于自变量X和因变量y的n对观察值(兀11),(兀2,儿),•••,(£,儿)(这里要求州,兀2,…心不全相同),由式⑴知:E=0o+0k+务(i=l,2,…,n),⑶其中®是对乙观察时的随机误差.假设即5…心两两不相关且与⑴中的£同分布,%)=0,畑6)">0,(i=1,2,…,n)・把式⑶和关于£.的假设放在一起称为模型(3)・下面用最小二乘法求0。和01的估计.假设0。和01的估计已经求出,记为久和A・得到回归函数00+0M在旺点的估计://K£=久+p內,(i=l,2,・・・,n),称X为回归值,也称为预测值.(£实际上是E(K)的估计)
7、.另一方面,因变量Y的观察值乙也已获得,见图1・当然希望它们之间的偏差勺=X-X-n(i=l,2,…,n)越小越好.0。和属的合理估计应使工①一刃尸达到最小.1=1记0(00,0)=工(%-0。-0內)2,(4)使得㈣0(00,01)=。(00,01),⑸Z=1卩()4成立的久和R称为00和A的最小二乘估计.此法称为最小二乘法.=-2-0o-0內)=000()/=!=Ty=一2工(X-00-01无)无=0201告AnAn7200+DA=E/=1、工无0()+工彳01=0』/=1式(6)称为正规方程组.其系数行列式为1=1、i=i(工兀)2=吃(兀•一兀
8、)2,使用微分法求Q(0o,0J的最小值点.可令—1pn其中X=・