资源描述：
《回归分析讲课教案.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、在现实生活中,变量与变量之间经常存在一定的关系,一般来说,可分为两大类,一类是确定性的关系,这种关系通常用函数来表示;另一类是非确定性关系,变量之间的这种非确定性关系通常称为相关关系。回归分析就是数理统计中研究相关关系的一种数学方法,它就是通过大量的试验或观测,发现变量之间关系的统计规律,它在工农业生产和科学研究各个领域中均有广泛应用。回归分析一般分为线性回归分析与非线性回归分析。本次课程着重介绍线性回归分析,它是两类回归分析中较为简单的一类,也是应用得较多的一类。四、线性回归模型为了研究方便,我们考虑一个变量受
2、其它变量影响时,把这变量称为因变量,记为Y,其它变量称为自变量,记为X,这时相关关系可记作Y=f(x)+ε其中f(x)为当X=x时,因变量Y的均值,即f(x)=E(Y
3、X=x)称f(x)为Y对X的回归函数,ε为Y与f(x)的偏差,它是一个随机变量,假定E(ε)=0。问题(水泥凝固时放出热量问题)某种水泥在凝固时放出的热量y(卡/克)与水泥中下列4种化学成份有关。x1:3CaO·Al2O3的成份(%)x2:3CaO·SiO2的成份(%)x3:4CaO·Al2O3·Fe3O3的成份(%)x4:2CaO·SiO2的成份
4、(%)现记录了13组数据,列在表1中,根据表中的数据,试研究y与x1,x2,x3,x4四种成份的关系。表1编号x1(%)x2(%)x3(%)x4(%)y(卡/克)172666078.52129155274.331156820104.34113184787.6575263395.961155922109.27371176102.78131224472.59254182293.1102147426115.911140233483.8121166912113.3131068812109.4一般地，多元线性回归模型可表示
5、为建立线性回归模型其中,是未知参数,为了估计这些参数,将表1的值代入模型得其中,x1,x2,…,xm是自变量,b0,b1,b2,…,bm为回归系数且未知,统称为回归参数,一旦回归参数确定,则多元线性回归模型就完全确定,一般假定随机误差为了得到回归参数的估计值,就要对变量进行观测,假设对变量的n（n>m）次独立观测数据为（yi，xi1，xi2，…，xim）,i=1～n,则这些观测数据应满足上式,即有则多元线性回归的数学模型式可以写成矩阵形式若记为了获得参数β的估计,我们采用最小二乘法,即选择β,使达到最小。将Q(β
6、)对β求导数并令其为零，得回归系数的最小二乘估计模型参数估计此方程称为正规方程,其中X为n×(m+1)阶矩阵,一般假定rank(X)=m+1,由线性代数理论可知,L=XTX为满秩矩阵,它的秩rank(L)=m+1,则正规方程有唯一解,记作即记,则在实际工作中，常称为经验线性回归方程。多元线性回归模型的检验与预测从上面的参数估计过程可以看出,对于一批观察数据不论它们是否具有线性关系,总可以利用最小二乘法建立起多元线性回归方程但是Y与x1，x2，…，xm是否确实存在相关关系呢？回归方程的效果如何呢？这就要进行“整个回
7、归效果是否显著”的检验。当时，没有关系，回归模型没有意义,于是我们要检验是否成立。若H0成立,则x1，x2，…，xm对y没有影响;反之,若H0不成立,则x1，x2，…，xm对y有影响,此时y与x1，x2，…，xm的线性关系显著,也称为整个回归效果显著。但要注意,即使整个回归效果是显著的,y也可能只与某几个xi关系密切(相应的bi显著不为零),而与另几个xi关系不密切(相应的bi为零),这就是说,多元线性回归除了首先要检验“整个回归是否显著”外,还要逐个检验每一个bi是否为零,以便分辨出哪些xi对y并无显著影响,最
8、后,还要对各个bi作出区间估计。1．回归方程的显著性检验(1)回归显著性检验（F检验）若H0为真（回归平方和）（残差平方和）其中（离差平方和）（复相关系数）故拒绝H0,否则就接受H0(2)单个回归系数为零的检验(t检验)若H0i为真其中（剩余标准差或估计的标准差）为中第i个对角线元素。故拒绝H0i，否则就接受H0i2．回归系数的置信区间对bi的区间估计由于因而bi的置信区间为其中3．预测a)点预测求出回归方程对于给定自变量的值,用来预测称为的点预测。y0的95%预测区间近似为其中b）区间预测1．多项式回归分析模型
9、多元线性回归分析模型的推广多项式回归模型的一般形式为：令则模型就变成为多元线性回归模型：多项式回归还有许多推广的形式：①②③④⑤上述模型的共同特点是未知参数都是以线性形式出现，所以都可以采用恒等变换化为多元线性回归模型。广义线性回归模型的一般形式为：其中：是一个不含未知数参数的一元函数，且有反函数：的不含未知参数的多元函数。2．广义线性回归模型广义线性回归模型的回归系数的
