基于prp公式修正的有效共轭梯度算法

《基于prp公式修正的有效共轭梯度算法》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、第39卷第7期西南大学学报(自然科学版)2017年7月Vol.39No.7JournalofSouthwestUniversity(NaturalScienceEdition)Jul.2017DOI:10.13718/j.cnki.xdzk.2017.07.015基于PRP公式修正的有效共轭梯度算法①林穗华广西民族师范学院数学与计算机科学学院,广西崇左532200摘要:给出一种非负且带有调比因子的修正PRP共轭梯度法参数公式.基于该共轭参数公式,采用SWP线搜索的对应共轭梯度算法满足充分下降性,采用WWP线搜索的对应谱共轭梯度算法保持

2、下降性.在常规假设条件下,证明了算法的全局收敛性,数值实验结果表明算法是有效的.关键词:无约束优化;共轭梯度法;谱共轭梯度法;全局收敛性中图分类号:O221.2文献标志码:A文章编号:16739868(2017)07009707考虑无约束优化问题:n}(1)min{f(x)

3、x∈R其中目标函数f:Rn→R连续可微,梯度函数g(x)≜▽f(x),gk≜g(xk),fk≜f(xk).共轭梯度法是求解大型优化问题(1)的一种有效方法,迭代格式如下xk+1=xk+αkdk(2)-gkk=1dk={(3)-gk+βkdk-1k≥2其中:dk为搜

4、索方向,αk为步长因子,βk为共轭方向调控参数.共轭参数的选取影响着算法的收敛性和计算效果.著名的共轭梯度法PRP,FR的βk表达式如下T(g)2PRPgkk-gk-1FR‖gk‖βk=2βk=2‖gk-1‖‖gk-1‖其中‖·‖为欧氏范数.PRP方法具备优秀的数值特性,但即使采用精确线搜索,对非凸目标函数仍不能确保其收敛性[1],不少研究者对PRP公式作了非负性的改进[2-6],解决了收敛性问题.文献[3]对PRP公式βkβk修改得到æ‖gk‖öTç÷gkgk-gk-1è‖gk-1‖øWYL(4)βk=2‖gk-1‖WYLFR,WY

5、L方法继承了PRP方法优秀的数值特性.文献[6]对公式(4)再修改得到0≤βk≤2βkTTægkgk-1ögkçgk-2gk-1÷è‖gk-1‖øVPRP(5)βk=2‖gk-1‖VPRPFR,VPRP与βWYL一样满足文献[2]为PRP方法提出的性质(*),文献[7]还将公式(5)的分0≤βk≤βkβkk子部分推广到其他共轭梯度法公式上,也取得了较好的效果.①收稿日期:20160815基金项目:国家自然科学基金项目(11261006);广西高校科研项目(ZD2014143);广西重点培育学科(应用数学)建设项目(桂教科研[2013]

6、16);广西民族师范学院科研项目(2013RCGG002).作者简介:林穗华(1973),女,广西龙州人,副教授,主要从事最优化理论与方法研究.2西南大学学报(自然科学版)http://xbbjb.swu.edu.cn第39卷基于文献[3,6]的思路,本文考虑对βPRP公式作如下改进k(gT)2Tækgk-1ögkçgk-3gk-1÷è‖gk‖‖gk-1‖ø(6)βk=2‖gk-1‖易得0≤βFR,但不再满足性质(*).受文献[8]的启发,对公式(6)再修正得到k≤2βkβk(gT)2Tækgk-1ögkçgk-3gk-1÷è‖gk‖

7、‖gk-1‖øN(7)βk=2ηk‖gk-1‖其中(gT)3kgk-1ηk=1-μmin{0,33}μ≥1‖gk‖‖gk-1‖建立在参数βN公式上的相应共轭梯度算法和谱共轭梯度算法具有良好的收敛性和较为理想的数值表现.k1修正PRP共轭梯度算法及谱共轭梯度算法基于参数公式(7),采用强Wolfe-Powell线搜索(SWP)的修正PRP共轭梯度算法如下:算法1步骤1给定初值xn,δ∈(0,0.5),σ∈(δ,0.5),,ε≥0,d:=-g,k:=1.若1∈Rμ≥111‖gk‖≤ε,停止.步骤2计算步长αk满足以下SWP线搜索准则:T(

8、8)f(xk+αkdk)-fk≤δαkgkdkTT(9)

9、g(xk+αkdk)dk

10、≤-σgkdk步骤3计算xk+1=xk+αkdk.若‖gk+1‖≤ε,停止.步骤4由(7)式计算参数βk+1,由(3)式计算dk+1.步骤5k:=k+1,转步骤2.[9]谱共轭梯度法是一种特殊共轭梯度法,通过调整谱参数θk和共轭参数βk,易使设计的算法满足下降性和收敛性.为降低线搜索条件,受文献[10-16]的启发,设计基于参数公式(7)并采用弱Wolfe-Powell线搜索(WWP)的修正PRP谱共轭梯度算法如下:算法2n,δ∈(0,0.5),σ∈(

11、δ,0.5),,ε≥0,d:=-g,k:=1.若步骤1给定初值x1∈Rμ≥111‖gk‖≤ε,停止.步骤2计算步长αk满足WWP线搜索准则:(8)式和下式TT(10)g(xk+αkdk)dk≥σgkdk步骤3计算xk+1