资源描述:
《barzilai-borwein梯度法及其在优化算法中的应用》由会员上传分享,免费在线阅读,更多相关内容在学术论文-天天文库。
1、分类号:O224密级:公开研究生学位论文论文题目(中文)Barzilai-Borwein梯度法及其在优化算法中的应用论文题目(外文)OntheBarzilai-Borweingradientmethodanditsapplicationsinotheroptimizationmethods研究生姓名郑燏涛学科、专业数学∙计算数学研究方向数值代数与优化学位级别博士导师姓名、职称郑兵教授论文工作起止年月2016年9月至2018年3月论文提交日期2018年3月论文答辩日期2018年5月学位授予日期校址:甘肃省兰州市学院:数学与
2、统计学院学号20130900141:1学生姓名:郑燏涛导师姓名:郑兵二I|I|圓^原创性声明本人郑重声明:本人所呈交的学位论文,是在导师的指导下独立进行研究所取得的成果。学位论文中凡引用他人己经发表或未发表的成果、数据>观点等,均己明确注明出处。除文中已经注明引用的内容外,不包含任何其他个人或集体己经发表或撰写过的科研成果。对本文的研究成果做出重要贡献的个人和集体,均已在文中以明确方式标明。本声明的法律责任由本人承担。论文作者签名:却感日期:li关于学位论文
3、使用授权的声明本人在导师指导下所完成的论文及相关的职务作品,知识产权归属兰州大学。本人完全了解兰州大学有关保存、使用学位论文的规定,同意学校保存或向国家有关部门或机构送交论文的纸质版和电子版,允许论文被查阅和借阅人;本授权兰州大学可以将本学位论文的全部或部分内容编入有关数据库进行检索,可以采用任何复制手段保存和汇编本学位论文。本人离校后发表、使用学位论文或与该论文直接相关的学术论文或成果时一,第署名单位仍然为兰州大学。本学位论文研究内容:sf可以公开□不宜公开,已在学位办公室办理保密申请
4、,解密后适用本授权书。一“”(请在以上选项内选择其中项打v)^^签:论k:文作者名^>签导师名:曰期:/ri^日期>/Jt中文摘要梯度法是求解无约束优化问题的基本方法之一,其算法简单,所需存储较少.但此方法中步长的选取对计算效果有较大的影响,Barzilai和Borwein提出的两点步长其对应的Barzilai-Borwein(BB)梯度法由于有较好的计算效果和收敛性,现在已经发展成为求解大规模问题竞争力很强的一种方法,受到众多学者的广泛关注.本文主要探讨新的BB型梯度算法及其在优化
5、算法中的应用.主要内容包括以下几个方面:1.探寻新的BB型梯度算法.基于Ford和Moghrabi的多步拟牛顿方程,通过修正原始的BB步长使其满足这一特定的拟牛顿特性,提出了一族新的BB型步长并建立了采用新步长的梯度型算法对严格凸二次极小化问题的全局收敛性.将新方法应用于实际问题与由机器产生的随机问题,结果表明,新的BB型方法优于现存的一些梯度型算法.2.研究BB型步长在优化算法中的应用.首先,结合非单调线搜索,将第一部分内容中的MBB方法推广到一般的非二次无约束优化问题的求解当中.其次,由于改进的拟牛顿方程与Dai-Li
6、ao共轭梯度法之间存在着紧密的联系,将在Dai-Liao方法中使用过的具有一定最优特性的BB型参数值应用到变尺度BFGS方法与修正的BFGS方法当中.最后,将BB型步长嵌入到自适应三次正则化方法中,用实正定数量矩阵代替精确Hessian或其拟牛顿逼近,简化了算法中子问题的求解且改进后的算法适用于大规模问题.数值试验表明,这些修正合理且有效.在此期间,还通过插值的方式,统一了现有的对拟牛顿方程的大部分改进,为这些改进的提出给出了一个自然的阐释.3.研究BB型方法求解对称不定线性方程组的收敛性.我们得出:二维情形下,采用第二种
7、形式BB步长的方法是R-超线性收敛的.这一理论结果和戴彧红在对称正定情形下关于BB方法的结果一致.4.改进共轭梯度法.通过修正共轭梯度法中的共轭参数,提出了几个改进的共轭梯度算法,其中包括两种Dai-Liao形式的共轭梯度法.在一定条件下,结合强Wolfe线搜索,给出了算法对一致凸函数的强收敛性以及一般函数的全局收敛性.数值试验表明本章给出的算法比已有的同类算法更有效.关键词:Barzilai-Borwein梯度法,拟牛顿方程,BFGS方法,自适应三次正则化方法,共轭梯度法IAbstractGradientmethodis
8、oneofthemostfoundationalmethodsforsolvinguncon-strainedoptimizationproblems,itsalgorithmisverysimpleandlowinmemory.However,thechoiceofthesteplengthgreat