求解非负约束优化问题的可行ls共轭梯度法

《求解非负约束优化问题的可行ls共轭梯度法》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、求解非负约束优化问题的可行LS共轭梯度法摘要：结合子空间思想和LiuStorey（LS）共轭梯度法，提出了求解大规模非负约束优化问题的可行共轭梯度算法，并分析了算法在Armijo型线性搜索下的全局收敛性.数值实例表明该算法是有效的.关键词：非负约束优化；子空间；共轭梯度法；全局收敛性中图分类号：O221.2文献标识码：A非负约束优化问题广泛存在于许多学科及工程应用领域中，如：非线性回归分析、金融投资、大地测量、卫星导航等，并且有关的数据处理是非常庞大的，呈现的问题通常是大规模的.因此，研究求解这些

2、问题的高效算法具有重要的现实意义.非负约束优化问题的一般形式这里l和u是Rn中的有界向量.许多研究集中于求解大规模有界约束问题（3），人们提出了如谱梯度投影法、有限记忆拟牛顿法和共轭梯度法等有效算法＼[1，4，6＼].尽管问题（1）可以看作问题（3）的特殊情形，但不知这些方法能否经过适当的修改被用来求解非负约束问题.众所周知，共轭梯度法及其修正形式是求解大规模无约束问题minf（x），x∈Rn的有效方法＼[2，7-8＼].因此，5人们设想用共轭梯度法的思想求解约束问题.文献＼[6＼]研究了用共轭梯

3、度的思想求解有界约束问题（3），通过求解一个约束子问题来计算搜索方向，作者证明了在Wolfe型线性搜索下所提出的方法是收敛的.然而已有研究表明在该研究上存在许多的困难[5].在本文中，我们研究用共轭梯度型方法求解非负约束问题（1）.结合已有求解有界约束问题的子空间思想[4]和求解无约束问题的LiuStorey（LS）共轭梯度法[3]，提出了一个求解问题（1）的可行LS共轭梯度法，与文献＼[6＼]的方法比较，本文提出的方法的优点是无需求解子问题，并且在Armijo搜索下具有全局收敛性，节省大量计算.

4、湖南大学学报（自然科学版）2014年第7期刘陶文等：求解非负约束优化问题的可行LS共轭梯度法证由KKT条件（2）以及（10）即可验证定理结论成立.证毕引理1和定理1表明，当dk=0时，xk必定是问题（1）的一个KKT点，而当dk≠0时，必有gTkdk0.设观测向量为L∈R3，则有相应的误差方程：L+V=（

5、AP

6、，

7、BP

8、，

9、CP

10、）T，其中V为观察噪声向量.设A，B，C3个边观测的一次观测值分别为500.04，502.52，714.13.5试估计P点的位移（x，y，-z）.当P点有位移（x，y，

11、-z）时，观测向量L的误差方程为：L+V=

12、AP

13、

14、BP

15、

16、CP

17、=现在用可行LS共轭梯度法来求解问题（16）.在算法1中，取初始点（x0，y0，z0）=（1，1，1）以及常数ρ=0.5，σ=0.001，ε=0.01.算法1在7次迭代后求得P点位移估计（，，）=（0.0220，0，-0.0531），显然这一估计比文献＼[9＼]中的线性最小二乘估计（0.0246，0，-0.0640）更接近于实际的位移（0.004，0.02，-0.005），而且可以依据需要增加迭代次数提高精度.参考文献[1]BIRG

18、INEG，MARTINEZJM，RAYDANM.Nonmonotonespectralprojectiongradientmethodsonconvexsets＼[J＼].SIAMJournalonOptimization，2000，10（1）：1196-1211.＼[2＼]DAIY，YUANY.Nonlinearconjugategradientmethods＼[M＼].Shanghai：ShanghaiScienceandTechnologyPublisher，2000.＼[3＼]LIUY，S

19、TOREYC.EfficientgeneratedconjugategradientalgorithmsPart1：Theory＼[J＼].JournalofOptimizationTheoryand5Applications，1991，69（1）：129-137.＼[4＼]NIQ，YUANY.AsubspacelimitedmemoryquasiNewtonalgorithmforlargescalenonlinearboundconstrainedoptimization＼[J＼].Mathe

20、maticsofComputation，1997，66（220）：1509-1520.＼[5＼]NOCEDALJ.Conjugategradientmethodsandnonlinearoptimization，In：LinearandnonlinearconjugategradientRelatedmethod＼[M＼].Philadelphia，SIAMPress，1996，9-23.＼[6＼]PYTLAKR.Anefficientalgorithmforlargescalen