非线性最小二乘问题的一种迭代解法.pdf

《非线性最小二乘问题的一种迭代解法.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第22卷第1期数学理论与应用Vol.22No.12002年3月June.2002MATHEMATICALTHEORYANDAPPLICATIONSX非线性最小二乘问题的一种迭代解法郑洲顺　普　乐(中南大学数软系,湖南长沙410083)摘　要　本文给出了求解非线性最小二乘问题的一种迭代解法,即由已知节点数据(xi,yi)(i=1,2,⋯,m)求函数y=f(x,b1,b2,⋯,bn)中非线性参数b1,b2,⋯,bn的一种迭代解法.并用实际算例的结果说明了该迭代解法优于一般线性化方法,说明了该种方法在实际工程领域中的应用.关键词　最小二乘问题　迭代解法

2、　Taylor展式　Jacobi行列式AITERATIVEMETHODOFSOLVINGTHENONLINEARLEASTSQUAREPROBLEMZhengZhoushunPoLo(CentralSouthUniversity,Changsha,410083)AbstractAniterativemethodofsolvingthenonlinearleastsquareproblemisgiven.Theiterativemethodiscomparedwiththegenerallinearizedmethodbycalculatingan

3、actualexample.Itisdescribedbymakingsomeexamplesthattheiterativemethodisappliedinactualengineerfields.KeywordsLeastsquareproblem;iterativemethod;Jacobiandeterminant11引　言用最小二乘法解决实际问题包含两个基本环节:先根据所给资料点的变化趋势与问题的12n实际背景确定函数5={5(x),5(x),⋯,5(x)},即确定用来拟合未知函数f(x)的拟合函12n数所具有的形式5(x)=b15(

4、x)+b25(x)+⋯+bn5(x);然后按最小二乘原则“使残差平33方和最小”求最小二乘解5(x),即确定其系数bk(k=0,1,⋯,n).但在实际问题中所选取的拟合函数5(x)经常是双曲线形式、指数函数形式等含待定参数b1,b2,⋯,bn的非线性函数.另外,在许多实际应用领域,未知函数f(x)的形式往往是含待定参数b1,b2,⋯,bn的已知的非线性函数y=f(x,b1,b2,⋯,bn).例如,宏观动力学中的一级反应动力学方程的指数形式为C=b1+b2exp(b3t);物理化学中的Clapeyron方程,VanptHoff方程等.这类问题若直接

5、按最小二乘原则来求解,因其残差平方和为:m2S(b1,b2,⋯,bn)=∑(yi-f(xi,b1,b2,⋯,bn))i=1X国家重点基础研究发展规划(G200067203)、国家杰出青年科学基金(50025412和高等学校博士学科点专项科研基金资助项目　王正明教授推荐　收稿日期:2001年10月20日©1995-2004TsinghuaTongfangOpticalDiscCo.,Ltd.Allrightsreserved.44数学理论与应用　　　　　　　　　　　　　　　　　第21卷　5S这将导致求解非线性方程组:=0,j=1,2,⋯,n.我们把

6、这类问题称为非线性最小二5bj乘问题.对于非线性最小二乘问题,为了避免求解非线性方程组,通常是寻求各种可能的转化将其化为线性问题来处理,但并不是都能容易地找到合适的转化.下面我们用迭代法来处理这类问题,既避免了求解非线性方程组,又能对任意非线性最小二乘问题进行求解.21非线性最小二乘问题的迭代法已知实验数据(xi,yi),i=1,2,⋯,m,函数y=f(x)中含有非线性参数b1,b2,⋯,bn,记为y=f(x,b1,b2,⋯,bn).令向量b=(b1,b2,⋯,bn),则y=f(x,b)其残差平方和为m2S(b)=∑(yi-f(xi,b))(1)

7、i=15S3假设根据最小二乘法原则=0,j=1,2,,⋯,n,求得的具有最小残差平方和的b=5bj3333333(b1,b2,⋯,bn).下面我们通过迭代法来求出b=(b1,b2,⋯,bn)的近似值.先给定的一0000000初始值b=(b1,b2,⋯,bn),将y=f(x,b)在((b1,b2,⋯,bn)处作Taylor展开,并略去高次项,得n5fi0f(xi,b)=fi+∑(bj-bj)(2)j=15bj000其中,fi=f(xi,b1,b2,⋯,bn),将(2)代入(1)得:mn25fi0S(b)=∑yi-(fi+∑5(bj-bj))i=1j

8、=1bj0为方便起见,令zj=bj-bj(j=1,2,⋯,n),向量z=(z1,z2,⋯,zn),则mn25fiS(b)=∑yi-(fi