带有最优参数选择的修正DL共轭梯度法.pdf

《带有最优参数选择的修正DL共轭梯度法.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第32卷第8期重庆工商大学学报(自然科学版)2015年8月Vo1．32NO．8JChongqingTechnolBusinessUniv．(NatSciEd)Aug．2015doi：10．16055／j．issn．1672—058X．2015．0008．002带有最优参数选择的修正DL共轭梯度法吴双江(重庆师范大学数学科学学院，重庆401331)摘要：利用矩阵条件数的求解方法，求解基于MBFGS割线条件的修正DL共轭梯度法中的参数t，提出带有优选参数的修正DL共轭梯度法；假设搜索方向有下降}生，并通过强Wolfe线搜索求解步长，证明了新

2、的共轭梯度法对一般函数有全局收敛性；最后比较了新的共轭梯度法的数值有效性。关键词：共轭梯度法；强wolfe线搜索；条件数；全局收敛性中图分类号：0224文献标识码：A文章编号：1672-058X(2015)08-0006-040引言考虑无约束优化问题min)，∈R(1)其中f：R一是连续可微的。非线性共轭梯度法通常有如下格式：+l=+akd，k=0，1，⋯(2)f—g，：0di—+卢cf—l，尼≥1(3)其中g=Vf(x)，>0是由某线搜索获得的步长，是一个参数。为了建立共轭梯度法的全局收敛性，选取强Wolfe线搜索：+Old)≤)+g

3、kTd(4)lg(x+akd)dJ≤lg+kdl(5)在文献[1]中，Dai和Liao利用修正共轭条件的方法提出新共轭梯度法，其参数的形式：卢=一￡(6)其中s=k-X。在文献[2]中，SamanBabaie—Kafaki和RezaGhanbafi利用条件数，求解了DL法中参数t，获得两种新的共轭梯度法M1和M2，其选取的参数t分别为=+=在文献[3]中，ZhouWeiJun和ZhangLi利用割线条件修正DL法，获得新的ZZ法，其卢的形式：=一t(7)收稿日期：2015-01-10；修回日期：2015—02—20．作者简介：吴双江(1

4、990·)，男，重庆梁平人，硕士研究生，从事最优化理论与算法研究第8期吴双江：带有最优参数选择的修正DL共轭梯度法7其中=y+cllg川。C>0，r>0。受以上启发，利用条件数求解ZZ法中参数t，分别获得如下两种t的取值：T一MZI_+(8)tMZ2l一一(9)l其中川=y+cllg川。C>0，r>0。把式(7)一(8)称做MZ1法，把式(7)一(9)称作MZ2法。1MZ1法与MZ2法的全局收敛性假设1：(1)水平集={∈RI)≤。))有界，其中。∈R“为初始点。(2)f在水平集的一个领域Ⅳ内连续可微，且其梯度g满足Lipschitz连

5、续，即存在常数L>O，使得IIg(x)-g(y)l~LIIx-ylI，Yx，YEN。由假设1中(2)可知lll≤。假设MZ1法与MZ2法的搜索方向满足下降条件：T<0引理1[4若假设A成立。考虑迭代格式为(2)一(3)的共轭梯度法，其中d满足下降条件，O／满足强wolfe线搜索。如果∑。o(10)k厶=0II则liminfllgll=0(11)定理1若假设1成立。分别考虑共轭梯度法MZ1法与MZ2法。两种方法中满足下降条件，满足强Wolfe线搜索。则MZ1法与MZ2法均对一般函数有全局收敛性。证明：根据引理1，只需要证明MZ1法与MZ2

6、法中d有界，那么则MZ1法与MZ2法均对一般函数有全局收敛性。因为MZ1法和MZ2法中满足下降条件，因此d≠0。下面运用反正法证明MZ1法与MZ2法中有界。假设MZ1法与MZ2法均对一般函数不具有全局收敛性，则存在常数>o，使得IJl≥占对任意k成立。根据式(5)、(7)，有lsT一一。l>CelIs一lI(12)又根据式(7)和假设1，有IIzlI≤(L+C3,)lIs¨l(13)在MZ1法中，根据(2)、(3)、(7)、(12)、(13)和假设1：一--=+(舞+(兰+2yc￡+c兰)IIs一。Il≤+(1+23'(+C3'r))因

7、此根据引理1，MZ1法对一般函数有全局收敛性。MZ2法，同理可证得对一般函数的全局收敛性。因此省略对MZ2法的全局收敛性证明过程。定理证明完毕。8重庆工商大学学报(自然科学版)第32卷2数值试验现比较MZ1法，MZ2法，zz法与DL法的数值效果，测试问题取自于文献[5]。测试问题的维数为2—5000维。在所有的共轭梯度法计算中，步长通过强Wolfe线搜索获得，其中强Wolfe线搜索的参数=0．01，Or=0．1。DL法中参数￡=0．1。MZ1法，MZ2法，和zz法中参数c=0．001，并且如果Ilcl≥1时／--_1，否则／-~-3。这

8、些方法在配置为1．86GHzCPU，2．5GBRAM，Windows7操作系统的联想Z460笔记本电脑上用MATLAB7．0．1软件测试数值有效性。算法中的终止条件有两个：如果f()>10一，第一个终止条件