最小二乘法及原理

《最小二乘法及原理》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第一节最小二乘法的基本原理和多项式拟合页码，1/8第一节最小二乘法的基本原理和多项式拟合一最小二乘法的基本原理　从整体上考虑近似函数p(x)同所给数据点(xi,yi)(i=0,1,…,m)误差ri=p(xi)−yi(i=0,1,…,m)　的大小，常用的方法有以下三种：一是误差ri=p(xi)−yi(i=0,1,…,m)绝对值的最大mmaxrT∑ri值0≤i≤mi，即误差向量r=(r0,r1,Lrm)的∞—范数；二是误差绝对值的和i=0，即误差向m2∑ri量r的1—范数；三是误差平方和i=0的算术平方根，即误差向量r的2—范数；前两种方法简单、

2、自然，但不便于微分运算，后一种方法相当于考虑2—范数的平方，因此在曲线拟合m2∑ri中常采用误差平方和i=0来度量误差(i=0，1，…，m)的整体大小。　ri数据拟合的具体作法是：对给定数据(xi,yi) (i=0,1,…，m)，在取定的函数类Φ中,求p(x)∈Φ,使误差ri=p(xi)−yi(i=0,1,…,m)的平方和最小，即mm22∑ri∑[]p(xi)−yi=mini=0=i=0从几何意义上讲，就是寻求与给定点(xi,yi)(i=0,1,…,m)的距离平方和为最小的曲线　y=p(x)（图6-1）。函数p(x)称为拟合函数或最小二乘解，

3、求拟合函数p(x)的方法称为曲线拟合的最小二乘法。　在曲线拟合中，函数类Φ可有不同的选取方法.6—1二多项式拟合　假设给定数据点(xi,yi)(i=0,1,…,m)，Φ为所有次数不超过n(n≤m)的多项式构成的函数http://www.tyut.edu.cn/kecheng/jisff/dzja/ch6/ch6-1.htm2009-3-31第一节最小二乘法的基本原理和多项式拟合页码，2/8nkpn(x)=∑akx∈Φ类，现求一k=0,使得2mmn[]2⎛k⎞I=∑∑pn(xi)−yi=⎜∑akxi−yi⎟=mini==00i⎝k=0⎠    

4、 (1)当拟合函数为多项式时，称为多项式拟合，满足式（1）的pn(x)称为最小二乘拟合多项式。特别地，当n=1时，称为线性拟合或直线拟合。　显然　mnk2I=∑∑(akxi−yi)i==0k0为a0,a1,Lan的多元函数，因此上述问题即为求I=I(a0,a1,Lan)的极值问题。由多元函数求极值的必要条件，得mn∂Ikj=2∑∑(akxi−yi)xi=0,j=0,1,L,n∂aji==00k     (2)即nmmj+kj∑∑(∑xi)ak=xiyi,j=0,1,L,nk==00i=0i        (3)（3）是关于a0,a1,Lan的

5、线性方程组，用矩阵表示为⎡mm⎤mn⎡⎤⎢m+1∑xiL∑xi⎥⎢∑yi⎥⎢i=0i=0⎥⎡a0⎤⎢i=0⎥mmm⎢⎥m⎢xx2Lxn+1⎥a⎢⎥⎢∑i∑i∑i⎥⎢1⎥=⎢∑xiyi⎥i=0i=0i=0⎢M⎥i=0⎢MMM⎥⎢⎥⎢M⎥⎢mmm⎥a⎢m⎥⎢nn+12n⎥⎣n⎦⎢xny⎥∑xi∑xiL∑xi∑ii⎢⎣i=0i=0i=0⎥⎦⎢⎣i=0⎥⎦     (4)式（3）或式（4）称为正规方程组或法方程组。　可以证明，方程组（4）的系数矩阵是一个对称正定矩阵，故存在唯一解。从式（4）中解出ak(k=0,1,…，n)，从而可得多项式　nkpn(

6、x)=∑akxk=0　       (5)可以证明，式（5）中的pn(x)满足式（1），即pn(x)为所求的拟合多项式。我们把m∑[]2p(x)−yniii=0称为最小二乘拟合多项式pn(x)的平方误差，记作　http://www.tyut.edu.cn/kecheng/jisff/dzja/ch6/ch6-1.htm2009-3-31第一节最小二乘法的基本原理和多项式拟合页码，3/8m2∑[]2r=p(x)−y2niii=0由式(2)可得　mnm22kr2=∑∑∑yi−ak(xiyi)i==00ki=0        (6)　多项式拟合的一

7、般方法可归纳为以下几步： (1)由已知数据画出函数粗略的图形——散点图，确定拟合多项式的次数n；　mmjj∑xi(j=0,1,L,2n)∑xiyi(j=0,1,L,2n)(2)列表计算i=0和i=0；　(3)写出正规方程组，求出a0,a1,Lan；　nkpn(x)=∑akx(4)写出拟合多项式k=0。　在实际应用中，n

8、150.0Ti(℃)76.3077.8079.2580.8082.3583.9085.10R(Ω)i解 画出散点图（图6-2），可见测得的数据接近一条直线，故取n=