基于线性模型的自适应信赖域方法

《基于线性模型的自适应信赖域方法》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、第25卷第4期2016年8月运、筹与管理0PERATl0NSRESEARCHANDMANAGEMENTSCIENCEV01．25．No．4Aug．2016基于线性模型的自适应信赖域方法周群艳(江苏理工学院数理学院，江苏常州213001)摘要：为求解大规模无约束优化问题，本文提出了一种白适应线性信赖域法。与传统的线性信赖域法相比，新方法借助一数量矩阵近似Hesse阵，并据此计算线性信赖域半径。理论上证明了新算法的全局收敛性，数值实验表明新算法非常适合大规模问题的求解。关键词：无约束优化；信赖域方法；线性模型；数值实验中图分类号：022

2、l文章标识码：A文章编号：1007-3221(2016)04—0087—06doi：10．12005／o珊8．2016．0127AnAdaptiVeTrUStRegiOnMethOdBasedOnLinearMOdeISZHOUQun—yan(＆^ooZ矿^f口t^em口ti∞ondP危，，s洒，五口，lgs“‰如e瑙i秒矽死c^noZogy，C^口，lg旆oH21300l，C

3、Ilin口)Abstract：AnadaptivelineartrustregionmethodisdesignedtosolVelargescaleunc

4、onstminedoptimizationpmb-lems．Unlikethetraditionallineartrustregionmethod，thenewalgorithmgetsthetnlstregionradiusoftllelinearmodelbyusinganewscalarapproximationoftheminimizingfunction§Hessian．Theconvergenceresultsofthemethodarepmvedundercertainconditions．Numericalresul

5、tsshowthatthenewmetIlodisVer)reH．ectiVeandanractiveforlargescaleunconsmlinedproblems．Keywords：unconstminedoptimization；trustregionmethod；linearmodel；numericalexperiments0引言考虑无约束最优化问题min火石)(1)，E片其中以菇)：尺“-+R为连续可微函数．拟牛顿法是解(1)的最常用的方法之一，它以拟牛顿方程为基础，利用目标函数一阶导数的信息，构造出目标函数的曲率近似

6、，从而避免了求Hesse阵或其逆矩阵⋯。拟牛顿线搜索法首先计算一个搜索方向以=一Bfl矾，其中B。是目标函数Hesse阵的近似矩阵，通常由BFGS、DFP等校正公式得到。其次，为了保证算法的收敛性，沿着上述方向进行适当的线搜索得到步长因子口。。最后，得到下一个迭代点茗川=菇。+n。巩，如此循环，直到满足算法终止条件为止。拟牛顿信赖域方法也是求解问题(1)的重要算法，具有较强的全局收敛性质和较快的局部收敛速度，吸引了越来越多的学者。信赖域方法构造一个相对简单的在某个区域内可以较好地逼近目标函数火菇)的模型函数，通过极小化此模型函数的方

7、法得到下一个迭代点。通常的信赖域方法基于如下二次模型¨，2o一1一mingI(s)=五+g：s+÷s1曰13(2)●s．t．¨sf

8、s△I其中以=以‰)，瓯=V八石。)，l

9、·

10、J为2一范数，△。>0称为信赖域半径．每次迭代，上述子问题可能需要多次求解，直到试探步被接受．但是对于大规模问题，反复求解子问题(2)极大地增加了计算量．将拟牛顿线搜索法和信赖域法比较，我们发现线搜索法较信赖域方法需要更多的迭代次数，但是每次计算得到迭代点花费的时间较少．如何将这两类算法的优点整合值得进一步的研究．文献[3]考收稿日期：2014．06．09基

11、金项目：江苏省高校自然科学基金项目(13l(JBllo007)；江苏理工学院基础及应用基础研究项目(KYYl3012，KYYl4010)作者简介：周群艳(1980一)，女，江苏常州人，副教授。研究方向：最优化理论与算法。88运筹与管理2016年第25卷虑了求解问题(1)的组合信赖域与线搜索算法，即在试探步不成功时不重新求解信赖域子问题(2)，而采用线搜索技术得到下一个迭代点，从而避免了由于重新求解信赖域子问题带来的较大的计算量．线性模型是目标函数最简单的逼近模型，很多学者考虑将线性模型作为目标函数的近似．传统的线性信赖域模型¨’21

12、为minm^(s)=以+g知s．t．

13、

14、sIl≤△I将线性信赖域模型(6)和(3)加以比较，只是每次迭代的信赖域半径有所区别，我们称基于模型(6)的信赖域算法为自适应线性信赖域方法．第一节将给出7。的计算方法及基于线性模型的自适应信赖