解非线性规划问题的拟牛顿法研究【文献综述】

《解非线性规划问题的拟牛顿法研究【文献综述】》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、毕业设计文献综述数学与应用数学解非线性规划问题的拟牛顿法究非线性规划是具有非线性约束条件或目标函数的数学规划,是运筹学的一个重要分支.非线性规划研究一个元实函数在一组等式或不等式的约束条件下的极值问题，且目标函数和约束条件至少有一个是未知量的非线性函数.非线性规划问题也就是在多种决策中挑选最好决策的问题，它被广泛应用于农业、国防、交通、金融、能源、通信等许多领域，在资源利用、结构优化、调度管理、后勤供应等许多问题中产生了巨大的经济效益和社会效应.例如：如何在现有人力、物力、财力条件下合理安排产品生产，以取得最高的利润；如何设计某种产品，在满足规格、性能

2、要求的前提下，达到最低的成本；如何确定一个自动控制系统的某些参数，使系统的工作状态最佳；如何分配一个动力系统中各电站的负荷，在保证一定指标要求的前提下，使总耗费最小；如何安排库存储量，既能保证供应，又使储存费用最低；如何组织货源，既能满足顾客需要，又使资金周转最快等.非线性规划问题是在二十世纪50年代发展起来的，主要讨论非线性决策问题的最佳选择之特性，构造寻求最优解的计算方法，研究这些计算方法的理论性质及实际计算表现.随着电子计算机的发展和应用，非线性最优化理论和方法有了很大发展，目前，已成为一门十分活跃的学科.许多急需解决的、对国民经济有重大影响的大

3、规模复杂科学和工程问题本质上都是优化问题.它们有的规模十分巨大（维数达上百万，如大气科学中的四维同化问题）.因此，研究高效的优化计算方法不仅具有重要的科学意义，而且具有广泛的应用前景，将对促进优化方法在国民生产等方面的因公起到重大作用.对于无约束优化问题（P），众所周知，牛顿法是非常好的方法，因为牛顿法具有二次收敛性，但当不正定时，不能保证算法产生的方向是在处的下降方向.特别，当奇异时，子问题可能无解，即牛顿方向可能不存在.修正牛顿法可克服牛顿法的上诉困难，但在修正牛顿法中，参数的选取十分重要.若参数国小，则相应的修正牛顿方向任不能保证是在处的下降方向

4、.参数太大，则会影响收敛速度.此外，牛顿法及其修正形式都需要计算函数的二阶导数.而拟牛顿法可克服牛顿法的上述缺陷.而且，算法在一定的条件下具有较快的收敛速度——超线性收敛速度.牛顿法的优点是成功的利用Hessen矩阵提供的曲率信息，但另一方面，计算Hessen矩阵工作量大，并且有的很难计算，甚至不好求出，而以拟牛顿方程为基础来构造出目标函数的曲率近似，而不需要明显形成Hessen矩阵同时具有收敛速度快的优点.在这一方面，已经形成了较为完整的算法体系，在理论和应用上都有十分重要的意义.拟牛顿法是牛顿法的一种推广.它在牛顿法的基础上，随着计算机技术的发展而

5、产生的一种新型算法.拟牛顿算法不仅成为无约束优化问题的一个好算法，而且也已被推广成约束优化问题的一个求解方法.1959年Davido首先提出了变尺度方法即拟牛顿算法.他的方法于1963年被Fletcher与Powell所简化，就得到了我们通常称为DFP方法的拟牛顿法.带非精确搜索的拟牛顿算法的研究是从1976年Powell开始，他证明了带Wolfe搜索BFGS算法的整体收敛性和超线性收敛性.1987年，Byrd，Nocedal，Ya-XiangYuan，成功的将Powell的结果推广到带有限制的Broyden凸族.1989年，Byrd和Nocedal在

6、目标函数一致凸的条件下，证明了带回追搜索的BFGS算法的整体收敛性和超线性收敛性.1996年，刘光辉、韩继业采用一种比Wolfe搜索更广泛的搜索技术，并将它与Broyden凸族结合，对凸函数证明了Broyden凸族具有全局收敛性.王宜举，修乃华在非线性规划理论与算法中详细的讨论了几种常用的拟牛顿算法并探讨了他们的收敛性.拟牛顿法的基本思想是在Newton法的子问题中用的某个近似矩阵取代.近年来，基于修正拟牛顿方程的非拟牛顿算法的研究亦吸引了不少国内外学者.Huang（1970）提出了一类比Broyden族更加广泛的校正公式，不要求校正矩阵满足拟牛顿方程

7、，只要求当算法应用于凸二次函数时，产生的方向是共轭的，从而具有二次终止性.1991年，Ya-XiangYuan提出了一种修正的BFGS方法。1995年赵云彬等提出了一种伪族的导出和全局收敛性证明，1995年，Ya-XiangYuan，Richard又给出了一类非拟牛顿校正算法，同年，柯小伍证明了Broyden非凸族的收敛性.1997年，陈兰平焦宝聪提出了一类新的非拟牛顿算法，并采用Wolfe线搜索，在目标函数一致凸的条件下，证明了非拟牛顿凸族具有整体收敛性和超线性收敛性，使Broyden凸族成为它的一个特例.1998年陈兰平发表了非拟Newton族的导

8、出及其收敛性，对无约束优化问题提出了一类非拟Newton族算法，它不再是Huang族中的成员，