非单调固定步长的自适应信赖域算法-论文.pdf

《非单调固定步长的自适应信赖域算法-论文.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第38卷第11期西南师范大学学报(自然科学版)2013年11月Vo1．38No．11JournalofSouthwestChinaNormalUniversity(NaturalScienceEdition)Nov．2013文章编号：i000—5471(2013)11—0017—05非单调固定步长的自适应信赖域算法①杭丹，周群艳。，刘嫂，马明琮1．空军勤务学院，江苏徐州221000；2．江苏理工学院数理学院，江苏常州213001摘要：对无约束优化问题提出一种非单调固定步长的自适应信赖域算法．当试探步不被接受时，用固定公式给出下一个迭代点，同时构造了一

2、个R一函数调整信赖域半径．在适当条件下，证明了新算法的全局收敛性．最后给出初步的数值实验结果．关键词：无约束最优化；信赖域方法；固定步长；非单调技术；全局收敛性中图分类号：O221．2文献标志码：A无约束优化问题：minf(or)(1)∈其中．厂(z)：一同是二阶连续可微的函数．信赖域方法是解决问题(1)的一类有效的迭代方法，而且具有很强的收敛性．在每个迭代点X，信赖域方法通过二次逼近构造信赖域子问题：1min(d)一gd+÷dBd(2)S．￡．dll≤△(3)其中：lJ·ll表示上的欧几里德范数；g表示g()，即厂的梯度函数g(z)在点X的值；B是

3、厂在点的Hessian阵或是其近似；△>0是信赖域半径．精确或近似地求解子问题(2)一(3)获得试探步d，然后根据实际下降量厂()一f(+d)和预测下降量(0)一(d)的比值确定试探步是否可被接受．如果试探步不能被接受，重新求解子问题直到可接受为止．然而这种做法往往导致计算量很大，因此许多学者提出了很多信赖域算法[】]．对于信赖域半径的调整，文献[2]提出了一种自适应信赖域方法，其中△根据r的一个R一函数值进行调整．受上述文献启发，本文给出一种非单调固定步长的白适应信赖域算法，即试探步d不被接受时，通过文献[3]一个固定的公式直接得到下一个迭代点，同

4、时在文献[2]的启发下构造了一个新的R一函数R()，它比文献[2]中的R一函数更简单．数值试验表明，这样做大大减少了计算量．在一定的条件下，证明了算法的全局收敛性．算法定义1设一维函数R()定义域为同，其中叩∈(O，1)，R(￡)是R一函数当且仅当它满足：(1)R(￡)在(一∞，+∞)不是下降的；(2)limR(f)一，其中卢∈(0，1)是小常数；，一(3)R(￡)≤1一y，对所有t<，这里y∈(0，1一)是一常数；(4)R()一1+7z，其中)，z∈(0，+oo)是一常数；①收稿日期：2Ol3—01—17基金项目：江苏省高校自然科学研究资助项目(1

5、3KJB110007)．作者简介：杭丹(1980一)，女，江苏徐州人，讲师，硕士，主要从事最优化理论和方法研究18西南师范大学学报(自然科学版)第38卷(5)limR(￡)一，其中2∈(1+)，2，+。。)是一常数．定理1R一函数R7(￡)('7∈(0，1))满足：0<卢≤R(￡)≤1一)，<1，Vt∈(一O0，'7)，1<1+)，z≤R(￡)≤卢z

6、设_厂Ⅲ一f(x)一maxf(x)，m(O)一0，m(尼)===min{m(忌一1)+1，M}，M是一个非负整数．故获得试探步实际下降量Ared一f一f(x+d)并得到d计算比率Aredfz(女)一厂(女+d)(6)一面一丽检验试探步d是否被接受，当试探步d不被接受时，不再重解子问题，而是用固定公式直接给出步长一一d然后根据Y'k值调整信赖域半径△．本文构造的R一函数R()为：f二!二R1—y—2)十I0r2≥c。一)．】—+r2<2算法1步骤1给定。，B。，△。>O，e≥0，0<1<1，O<)，<1一1，y2>0，p2>1+y，0

7、M>0，∈(0，1)，>0，>1．置忌一0，m(0)一0．步骤2计算g一g()．如果llgif≤e，则终止．否则计算B和厂．步骤3解子问题(2)一(3)使d满足(4)一(5)，计算Ad，Pred和一．rrea女步骤4如果r>c，置一+d．否则计算一一，置一+ad，转步骤5_步骤5△川一R2(r)△．置m(+1)一rain{m(k)+1，M}，是一是+1，转步骤2．注文献E23中信赖域半径由△㈩一R(r)Ildll确定．但当d很小时会造成下一步迭代的信赖域半径太小，使下一步试探步长过小，影响算法的效率．因此在我们的算法中采用△一R(r)l1△Il公式进

8、行迭代来避免这种缺陷．事实上，后面的数值试验也验证了这种修改的有效性．2收敛性假设1(1)函数厂(Iz)在上