资源描述：
《次课一元线性回归中的参数估计》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、在现实问题中，处于同一个过程中的一些变量，往往是相互依赖和相互制约的，它们之间的相互关系大致可分为两种：相关关系问题（1）确定性关系——函数关系；（2）非确定性关系——相关关系；相关关系表现为这些变量之间有一定的依赖关，但这种关系并不完全确定，它们之间的关系不能精确地用函数表示出来，这些变量其实是随机变量，或至少有一个是随机变量。相关关系举例例如：在气候、土壤、水利、种子和耕作技术等条件基本相同时，某农作物的亩产量Y与施肥量X之间有一定的关系，但施肥量相同，亩产量却不一定相同。亩产量是一个随机变量。又如：人的血压Y与年龄X之间有一定的依赖关系，一般来说，年龄越大，血压越高，但年龄相同
2、的两个人的血压不一定相等。血压是一个随机变量。农作物的亩产量与施肥量、血压与年龄之间的这种关系称为相关关系，在这些变量中，施肥量、年龄是可控变量，亩产量、血压是不可控变量。一般在讨论相关关系问题中，可控变量称为自变量，不可控变量称为因变量。对于x的一组不完全相同的值x1,x2,…,xn作独立观察,得到随机变量y相应的观察值y1,y2,…,yn,构成n对数据.用这n对数据可作出一个散点图,直观地描述一下两变量之间的关系.yxo············这里有三幅散点图.yxo··········(1)oyx············(2)yxo····················(3)
3、根据散点图,考虑以下几个问题:(1)两变量之间的关系是否密切,或者说我们能否由x来估计y.(2)两变量之间的关系是呈一条直线还是呈某种曲线.(3)是否存在某个点偏离过大.(4)是否存在其它规律.yxo··········(1)oyx············(2)yxo····················(3)考虑采用线性方程拟合采用非线性方程拟合以下重点讨论前者函数关系与相关关系的区别相关关系——影响的值，函数关系——决定的值，因此，统计学上讨论两变量的相关关系时，是设法确定：在给定自变量的条件下，因变量的条件数学期望不能确定。回归分析的概念研究一个随机变量与一个（或几个）可控变
4、量之间的相关关系的统计方法称为回归分析。只有一个自变量的回归分析称为一元回归分析；多于一个自变量的回归分析称为多元回归分析。引进回归函数称为回归方程回归方程反映了因变量随自变量的变化而变化的平均变化情况.回归分析主要包括三方面的内容（1）提供建立有相关关系的变量之间的数学关系式（称为经验公式）的一般方法；（2）判别所建立的经验公式是否有效，并从影响随机变量的诸变量中判别哪些变量的影响是显著的，哪些是不显著的；回归分析的内容（3）利用所得到的经验公式进行预测和控制。一元线性回归模型如果试验的散点图中各点呈直线状，则假设这批数据的数学模型为设随机变量Y依赖于自变量x，作n次独立试验，得n
5、对观测值：称这n对观测值为容量为n的一个子样，若把这n对观测值在平面直角坐标系中描点，得到试验的散点图.其中，且相互独立，则图9-1其中同服从于正态分布相互独立，因此其中是与无关的未知常数。（9.1）一元线性回归模型一般地，称如下数学模型为一元线性模型而称为回归函数或回归方程。称为回归系数。1.最小二乘估计设是的一组观测值,对每个样本观测值考虑与其回归值的离差综合考虑每个离差值,定义离差平方和所谓最小二乘法,就是寻找参数的估计值使得离差平方和达到极小值,即选择使得满足上式的称为回归参数二乘估计。的最小由于的极小值总是存在的因此应满足即整理得正规方程组若记－Y对x的经验回归直线方程－经
6、验回归系数代入回归直线方程，得：表明：对于一组样本观察值，经验回归直线始终通过散点图的几何中心在经验回归直线上例1在钢线碳含量x对于电阻效应y的研究中,得到了以下数据:碳含量（%）0.100.300.400.550.700.800.95电阻（微欧）1518192122.623.826假设对于给定的x,y为正态变量,且方差与x无关.如果x,y满足经验公式求线性回归方程解设现在所求的线性回归方程为定理5.1.1（1）证明：定理5.1.1（3）定理5.1.1（2）证明：2.σ的估计定理5.1.2从而的无偏估计为残差/剩余平方和－－因随机因素引起的误差Qe的计算例2求例1中的无偏估计.解由例
7、1得我们注意到只反映了x对y的影响，所以回归值就是yi中只受xi影响的那一部分,而则是除去xi的影响后,受其它种种因素影响的部分,故将称为残差.3相关系数分析称为变差，可分解为两部分.因此,y1,y2,…,yn的总变差为:回归平方和残差平方和（或剩余平方和）总离差平方和可以证明即可以分解为两部分:回归平方和与残差平方和.(10)得出所以反映了由于自变量x的变化引起的因变量y的差异，体现了x对y的影响；而反映了种种其它因素对y的影响,这些因素没有反映在自变量
