无约束优化中的几个算法

《无约束优化中的几个算法》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、摘要无约束优化计算方法是数值计算领域中十分活跃的研究课题之。快速地求解无约束优化问题，除了其自身的重要性外，还体现在它也构成一些约束优化问题的子问题。因此，对于无约束优化问题，如何设计快速有效的算法一直都是优化工作者十分关心的问题。本文第二章给出了用梯度法求解对称正定线性方程组的一族新步长，并建立其收敛性。我们从插值的角度进一步解释了BB步长，并将【2l】中给出的步长公式推广到一族。数值实验表明，一些步长的选取能够取得很好的数值效果。第三章对共轭梯度法进行了一些改进，给出了三种改进方案，并建立了算法McG对一致凸函数的收敛性。修改后的方法在算

2、法进行过程中能够产生下降方向，算法无需重开始。数值结果表明，修改后的算法比著名的PRP，Hs共轭梯度法表现要好。第四章给出一个解无约束优化问题的子空间算法，并建立了它对一致凸函数的收敛性。该算法具有合理利用内存，收敛速度快等优点。关键词：无约束优化，BB步长，共轭梯度法，子空间法。SomealgorithmsinunconstrainedoptimizationJunfe酶gY毫ng(}乜nd勰lental辩athe秘8￡ie8)Directedby王)rofYAxiangYllanN1撒1eriealme#№如f钟un∞Hstra主ned。

3、p跑niz靠{。ni8黼active8u毯ect主珏numerlc8l躺8l静氟Iti8Ⅵryimportamtos。lveunc。nstrainod。ptimizati。nrapidly舭埘e髓ctively，whichi8not。nlyitselfofgre矾importancebutalsoitforms8ubpfoblemsiIIⅡl蹴yconst姐in删optiHljzationp∞1)leH撼．Thgre{曲eb瓣￡ode$ignfastande癌ective矗嚣orithms奄runeo瑙t喇He畦。辩iⅡliz戤ionisan

4、imp。nantpI’0blemt11atoptlmizationrcscarcherscareverymuch．InChapter2，anewcl科8orsLeplengthsfor8ymnletri。pos㈨vede丘nitequadra七ic±uncti。删arepresentedaI城convergenco}es癌摭舯ee琏abl{s‰dM髓#淤嚣，wei贰erp}e}the基转#lt。leeofst婶leng她蟊㈧瞻e＆“gle磷inte7poIationandgeneraIize恤eformuJaegivenin【21】toafa

5、mIlyNumericalrosuItsshowth砒sonlochoicesofthosteplengthworkvcrywell删ldtheyaroconjparabletotheBBsteplengths．Ine鲰攀￡ef3，weglveso{1{emo蘸谗cat{o璐tothoeo西增最teg辣蠢i钉拄疆e强。d8flde鞋8b珏豳∞nvergeHceresul钒Tllemodmedscllenle$generatede8centdirectlon8ateachiter8tionandthu8therci8noneedtores‘ar

6、ttk日190们thlnNIlmericalresul垤8howt}1e棚记iencyorthemodi疗ednlethodsandt}lcype'秘rmb酿￡蛙thant妇f缸noHsPRP＆}撼珏S∞嘲ugaeeFad{艟建metb。豳，lIlGhape。r4甜t¨sch。sls，asubspacemethod1scoIlstructodforunconstrainedoptimizahoIlaIl({convelgcn∽theorom沁est曲lisllodfor1mlform垮convexfunctioI悄Subspacom代hodu

7、sesstora嚣ereasoIlably酃堪e。nve。ges18p豫ly差(eywDrds：unc。nstraiH￡do胖i丁n氇ation。BBst印1en醇h，c。坷u98t。gr矧}ent姗th。d，Subspacenlc恤od全文通用记号第k次迭代点第k次迭代的步长因子第k次迭代的搜索方向函数，(z)在。t处的函数值函数，(z)在‰处的梯度向量审，(乩)函数，(一)在％处的Hesse矩阵V2，(。k)在z一处对Hesse近似的拟牛顿矩阵矩阵A的迹矩阵A的行列式向量u、”的夹角nobenius范数欧几里得范数jA∥旧‰毗如^珊瓯吼州

8、q⋯●第一章无约束优化问题简介本章首先简单地介绍最优化问题的提i{_}；及其应用背景．其次给f1；无约束优化问题的最优性条件，算法的基本思想和结构．最后介绍常用的线