解无约束优化问题的移动渐近线算法

《解无约束优化问题的移动渐近线算法》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、南京航空航天大学硕士论文第一章绪论1.1最优化概况追求最优目标是人类的理想，最优化算法就是从众多可能方案中选择最佳者，以达到最优目标的科学。随着现代化生产的发展和科学技术的进步，最优化理论和方法日益受到人们的重视。最优化技术的应用范围非常广博，现在它已渗透到生产、管理、商业、军事、决策等各领域，近二、三十年来随着电子计算机的普遍应用更是得到了迅猛发展，已经广泛应用于国民经济各个部门和科学技术的各个领域。最优化问题一般的数学模型为minfx()st..hx()0,==i1,,;Lm(1.1.1)igx()0,≥=j1,,.LpjTn其中，x=∈(,,,)xxLxR，为n维向

2、量。在实际问题中也常常把变量x，x，L，x叫12n12n做决策变量。f()x，hx()(im=1,L,)，gx()(j=1,L,p)为x的函数。st..为英文“subjectijto”的缩写，表示受限制于。求极小值的函数f()x称为目标函数，hx()(im=1,L,)，gx()(j=1,L,p)称为约束ij函数，其中hx()0=称为等式约束，而gx()0≥称为不等式约束。根据(1.1.1)中有无约束函数ij可分为有约束的优化问题和无约束的优化问题。在(1.1.1)中，若m=0，p=0，即最优化问题称为无约束优化问题，否则称为约束优化问题。也可以根据目标函数和约束函数的类型

3、分类。若f()x、hx()(im=1,L,)，igx()(j=1,L,p)都是线性函数，则最优化问题(1.1.1)称为线性规划。若其中至少有一个为非j线性函数，则称问题(1.1.1)为非线性规划。另外，对于某些特殊类型的f()x，hx()和gx()而言，还有一些特殊类型的优化问题。ij如目标函数为二次函数，而约束函数全部是线性函数的优化问题称为二次规划。本文主要考虑不含有约束条件的、目标函数为非线性函数的优化问题。1.2移动渐近线算法概况随着研究的深入和优化技术的广泛应用，问题(1.1.1)变得越来越复杂，这种复杂性一方面表现在f()x，hx()和gx()的计算复杂性，另

4、一方面表现在自变量个数n的不断增大。在解ij决这些新问题的时候，一些经典的优化算法不再适用，这就迫切需要新的算法产生。工程上经常出现的结构优化问题表现出这样的特点：目标函数的计算量通常比较大，但是其梯度是可求的。已经有许多针对该类问题的算法，见文献[1]~[4]。移动渐近线(以下简称MMA)1解无约束优化问题的移动渐近线算法算法就是在这些算法的基础上提出的。文献[5]首次提出了MMA算法。在文献[5]中，用一个移动渐近线函数(以下简称MA函数)去逼近(1.1.1)中的目标函数，这个渐近线函数具有可分性、凸性等良好性质，由此产生了一个较为简单的MMA子问题，通过解这一系列子

5、问题最终求得原问题的解。但是文献[5]的子问题不是严格凸的，这就无法保证找到子问题的唯一全局最优解，另外算法的全局收敛性也无法保证。文献[6]在文献[5]基础上对MMA算法及MA函数进行了改进，提出了一个适用范围更广的MMA算法，给出了几个具有可分性及严格凸性的MA函数，并且给出了算法全局收敛性的证明，最后用其来解一个大规模非线性约束优化问题，取得了很好的数值试验结果。文献[7]首次把信赖域技术与MMA算法相结合，给出了一种新的MA函数选取方法，并将新算法应用于求解界约束结构优化问题，取得了良好的效果。文献[8]将线搜索技术与MMA算法相结合，用来求解不等式约束的优化问题

6、，并给出了算法全局收敛性的证明。文献[9]使用结合了信赖域和线搜索技术的MMA算法解无约束优化问题，当信赖域技术失败时便使用线搜索技术求下一个迭代点，并将算法应用于大规模问题，取得了良好的数值试验结果。另外，还有许多针对MMA算法的研究工作，具体请见参考文献[10]~[17]。而且，随着MMA研究的深入以及工程对解结构优化问题的需求的不断增加，MMA算法开始出现在各种软件包中，详见文献[18]。众多的研究结果表明了MMA算法是一种十分有效的解结构优化问题的算法。经过MA函数的逼近，我们减少了计算复杂原函数的次数，而用较为简单的MA函数代替；其次，子问题有很好的性质，使用一

7、些经典的算法可以很快求出子问题的解，如投影梯度法、对偶方法等，详见文献[19]~[20]。自MMA算法出现后，对它的研究就不曾间断过，但是仍然有许多问题亟待解决。如MA函数的选取问题，即怎样选取MA函数可以使子问题与原问题在当前迭代点逼近精度较高。又如，子问题的求解问题，即选择什么样的算法可以较为快速的解MMA子问题，尤其是在解大规模优化问题时，子问题的规模仍然很大，解子问题也是一个复杂的过程。本文将移动渐近线算法用于解无约束优化问题，在构造子问题的过程中，本文利用一个新的MA函数，并通过计算此MA函数与原函数的逼近理论分析，