非精确线搜索条件下共轭梯度法的收敛性分析-论文.pdf

《非精确线搜索条件下共轭梯度法的收敛性分析-论文.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第３２卷第３期江苏师范大学学报（自然科学版）Ｖｏｌ．３２，Ｎｏ．３２０１４年９月ＪｏｕｒｎａｌｏｆＪｉａｎｇｓｕＮｏｒｍａｌＵｎｉｖｅｒｓｉｔｙ（ＮａｔｕｒａｌＳｃｉｅｎｃｅＥｄｉｔｉｏｎ）Ｓｅｐ．，２０１４文章编号：２０９５４２９８（２０１４）０３００３６０５非精确线搜索条件下共轭梯度法的收敛性分析鞠静洁，庞德艳，杜守强（青岛大学数学科学学院，山东青岛２６６０７１）摘要：对Ｈｉｄｅａｋｉ与Ｙａｓｕｓｈｉ提出的两种使用目标函数值的共轭梯度法进行了研究，在一种新的Ｗｏｌｆｅ型线搜索条件下分析了它们的收敛性质．通过讨论可知，在其它的非精确线搜索条件下这两种共轭梯度法也是可

2、行的．最后的数值试验表明了所给共轭梯度法的有效性．关键词：无约束优化问题；共轭梯度法；非精确线搜索；全局收敛性中图分类号：Ｏ２２４文献标识码：Ａ犱狅犻：１０．３９６９／ｊ．ｉｓｓｎ．２０９５４２９８．２０１４．０３．００９犆狅狀狏犲狉犵犲狀犮犲犪狀犪犾狔狊犻狊狅犳犮狅狀犼狌犵犪狋犲犵狉犪犱犻犲狀狋犿犲狋犺狅犱狊狑犻狋犺犻狀犲狓犪犮狋犾犻狀犲狊犲犪狉犮犺ＪｕＪｉｎｇｊｉｅ，ＰａｎｇＤｅｙａｎ，ＤｕＳｈｏｕｑｉａｎｇ（ＣｏｌｌｅｇｅｏｆＭａｔｈｅｍａｔｉｃｓ，ＱｉｎｇｄａｏＵｎｉｖｅｒｓｉｔｙ，Ｑｉｎｇｄａｏ２６６０７１，Ｓｈａｎｄｏｎｇ，Ｃｈｉｎａ）犃犫狊狋狉犪犮狋：Ｂａｓ

3、ｅｄｏｎｔｈｅｓｔｕｄｙｏｆｔｈｅｔｗｏｃｏｎｊｕｇａｔｅｇｒａｄｉｅｎｔｍｅｔｈｏｄｓｗｉｔｈｔｈｅｖａｌｕｅｏｆｏｂｊｅｃｔｉｖｅｆｕｎｃｔｉｏｎｂｙＨｉｄｅａｋｉａｎｄＹａｓｕｓｈｉ，ａｎｅｗＷｏｌｆｔｙｐｅｌｉｎｅｓｅａｒｃｈｉｓｕｓｅｄｔｏａｎａｌｙｚｅｔｈｅｉｒｃｏｎｖｅｒｇｅｎｃｅｐｒｏｐｅｒｔｉｅｓ．Ｔｈｅｄｉｓｃｕｓｓｉｏｎｓｈｏｗｓｔｈａｔｔｈｅｔｗｏｋｉｎｄｓｏｆｃｏｎｊｕｇａｔｅｇｒａｄｉｅｎｔｍｅｔｈｏｄｗｉｔｈｏｔｈｅｒｉｎｅｘａｃｔｌｉｎｅｓｅａｒｃｈａｒｅａｌｓｏｆｅａｓｉｂｌｅ．Ｆｉｎａｌｌｙ，ｔｈｅｅｆｆｅｃｔｉｖｅｎｅｓｓｏｆｔｈｅｇｉ

4、ｖｅｎｃｏｎｊｕｇａｔｅｇｒａｄｉｅｎｔｍｅｔｈｏｄｓｉｓｓｈｏｗｎｂｙｎｕｍｅｒｉｃａｌｒｅｓｕｌｔｓ．犓犲狔狑狅狉犱狊：ｕｎｃｏｎｓｔｒａｉｎｅｄｏｐｔｉｍｉｚａｔｉｏｎｐｒｏｂｌｅｍ；ｃｏｎｊｕｇａｔｅｇｒａｄｉｅｎｔｍｅｔｈｏｄ；ｉｎｅｘａｃｔｌｉｎｅｓｅａｒｃｈ；ｇｌｏｂａｌｃｏｎｖｅｒｇｅｎｃｅ０引言讨论无约束最优化问题ｍｉｎ犳（狓），（１）犖狓∈犚其中犳为犚犖上的可微函数．本文中‖·‖为欧几里得范数．共轭梯度法自创立以来就被广泛应用于解无约束最优化问题，是求解大规模无约束优化问题的一种很［１－１１］有效的方法，原因在于它在计算过程中只需要目标函数值和梯度函数值

5、，不需要矩阵存储，却比最速下降法有更好的数值效果，如由Ｈｉｄｅａｋｉ与Ｙａｓｕｓｈｉ提出的使用目标函数值的共轭梯度法．传统的求解问题（１）的共轭梯度法的迭代公式为狓犽＋１＝狓犽＋α犽犱犽，（２）烄－犵犽，犽＝１，犱犽＝烅（３）烆－犵犽＋β犽犱犽－１，犽≥２，其中犵（狓），α是步长，犱是搜索方向，是一个参数．犽＝犳犽犽＞０犽β犽［５］本文将介绍两种改进的共轭梯度法，它们的步长都是由一种新的Ｗｏｌｆｅ线搜索方法２２，（４）犳（狓犽）－犳（狓犽＋α犽犱犽）≥ρα犽‖犱犽‖Ｔ２（５）犵（狓犽＋α犽犱犽）犱犽≥－２σα犽‖犱犽‖１［６］计算出来的，这里０＜，０＜σ＜１，且，而参数则

6、分别由ρ＜２ρ＜σβ犽２‖犵犽＋１‖（６）β犽＋１＝Ｔ，γ｝ｍａｘ｛犱犽狔犽犽＋１收稿日期：２０１４０４３０基金项目：国家自然科学基金资助项目（１１１０１２３１）作者简介：鞠静洁，女，硕士研究生，主要从事最优化理论与方法的研究，Ｅｍａｉｌ：３８１４３１８２９＠ｑｑ．ｃｏｍ．引文格式：鞠静洁，庞德艳，杜守强．非精确线搜索条件下共轭梯度法的收敛性分析．江苏师范大学学报：自然科学版，２０１４，３２（３）：３６－４０．ＪｕＪｉｎｇｊｉｅ，ＰａｎｇＤｅｙａｎ，ＤｕＳｈｏｕｑｉａｎｇ．Ｃｏｎｖｅｒｇｅｎｃｅａｎａｌｙｓｉｓｏｆｃｏｎｊｕｇａｔｅｇｒａｄｉｅｎｔｍｅｔｈｏｄｓｗｉｔ

7、ｈｉｎｅｘａｃｔｌｉｎｅｓｅａｒｃｈ．ＪＪｉａｎｇｓｕＮｏｒｍＵｎｉｖ：ＮａｔＳｃｉＥｄ，２０１４，３２（３）：３６－４０．第３期鞠静洁，等：非精确线搜索条件下共轭梯度法的收敛性分析３７与Ｔ犵犽＋１狔犽，（７）β犽＋１＝ｍａｘ｛０γ｝犽＋１２定义，其中γ（犳（狓）－犳（狓）），狔犽＋１＝犽犽＋１犽＝犵犽＋１－犵犽．α犽本文结构为：在第１、２部分中将分别给出在新的Ｗｏｌｆｅ型线搜索条件下的两种算法，并详细介绍其收敛性质；第３部分给出这两种算法在其它的非精确线搜索条件下的一些讨论；最后，分别给出这几种算法的数值实例以说