非线性优化问题.ppt

《非线性优化问题.ppt》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、第三专题非线性优化问题1、非线性优化模型的建立2、非线性优化模型的寻优非线性优化模型的建立确定决策变量确定目标（决策准则）确定约束条件实例分析（1）投资决策问题（P88)（2）曲线拟合问题在实验数据处理或统计资料分析中，常常遇到这样的问题：如何利用有关变量的实验数据（资料）去确定这些变量间的函数关系。例如，已知某物体的温度与时间之间有如下形式的经验函数关系：其中是待定参数。通过测试获得n组温度与时间之间的实验数据，试确定参数使理论曲线尽可能地与n个测试点拟合。非线性规划问题的共同特征都是求一个目标函数在一组约束条件下的极值问题。在目标函数或约束条件中，至

2、少有一个是变量的非线性函数。非线性规划问题一般形式：向量形式：非线性优化问题的寻优相关概念及理论一维最优化方法多维无约束最优化方法多维有约束最优化方法非线性规划的相关概念及理论一阶导数、二阶导数和n元函数的Taylor公式定义4设函数定义在凸集上，若对任意的及任意的都有：则称函数为凸集上的凸函数．定义5严格凸函数注：将上述定义中的不等式反向，可以得到凹函数的定义．凸函数例1：设试证明在上是严格凸函数．证明:设且都有：因此在上是严格凸函数．例2：试证线性函数是证明:设上的凸函数．则所以是凸函数．类似可以证明是凹函数．凸函数的几何性质对一元函数在几何上表示连

3、接的线段．表示在点处的函数值．所以一元凸函数表示连接函数图形上任意两点的线段总是位于曲线弧的上方．凸函数的性质（１）设（２）设函数，是凸集上的凸函数，实数则也是上的凸函数．是凸集上的凸实数则也是上的凸函数．（３）设是凸集上的凸函数，是实数，则水平集是凸集．下面的图形给出了凸函数的等值线的图形，可以看出水平集是凸集凸函数的判定定理1设上，令则:(1)是定义在凸集是凸集上的凸函数的充要条件是对任意的一元函数为上的凸函数.(2)设若在上为严格凸函数，则在上为严格凸函数．该定理的几何意义是：凸函数上任意两点之间的部分是一段向下凸的弧．一阶条件定理2.1设在凸集上

4、可微，则：在上为凸函数的充要条件是对任意的都有：定理2.2严格凸函数(充要条件)二阶条件定理3设在开凸集内二阶可微，则(1)是内的凸函数的充要条件为，在内任一点处，的海色矩阵半正定,其中：二阶条件定理3设在开凸集内(2)若在内正定,则在内二阶可微，则是严格凸函数．注:反之不成立．例：显然是严格凸的，但在点处不是正定的凸规划定义6设为凸集，为上的凸函数，则称规划问题为凸规划问题．定理4(1)凸规划问题的任一局部极小点是整体极小点，全体极小点组成凸集．(2)若是凸集上的严格凸函数，且凸规划问题整体极小点存在，则整体极小点是唯一的．非线性规划的最优性条件最优性

5、条件：是指非线性规划模型的最优解所要满足的必要和充分条件。无约束最优性条件约束最优性条件无约束最优性条件一（单）元函数的最优性条件（１）若（２）为的局部极小点，则若则为的严格局部极小点；若（３）为的局部极小点，则：多元函数的一阶必要条件（P106-107)定理1:若为的局部极小点，且在内一阶连续可导，则注:(1)仅仅是必要条件，而非充分条件．(2)满足的点称为驻点．驻点分为：极小点，极大点，鞍点．多元函数的二阶充分条件定理2:若在内二阶连续可导，且正定,则为严格局部极小点．注:如果负定,则为严格局部极大点．二阶必要条件和充要条件定理3:若为的局部极小点，

6、且在内二阶连续可导，则半正定．定理4:设在上是凸函数且有一阶连续偏导数，则为的整体极小点的充要条件是例1：利用极值条件解下列问题：解：令即：得到驻点：函数的海色阵：由此，在点处的海色阵依次为：由于矩阵不定，则不是极小点．负定，则不是极小点，实际上它是极大点．正定，则是局部极小点．约束最优性条件(p133-p136)定义1:有效约束：若(*)中的一个可行点使得某个不等式约束变成等式，即则称为关于的有效(积极）约束．非有效约束：若对则称为关于的非有效(无效）约束．有效集：定义2:锥：的子集，如果它关于正的数乘运算是封闭的．如果锥也是凸集，则称为凸锥．凸锥关于

7、加法和正的数乘运算是封闭的．一阶必要条件定理3.5:(Kuhn-Tucker一阶必要条件)(1951)设在（K-T条件）一阶必要条件定理1‘:(Kuhn-Tucker一阶必要条件)（互补松弛条件）例2：验证是否满足Kuhn-Tucker条件：试验证最优点为KT点．解：令所以即：所以：是KT点．Lagrange函数及K-T条件在一定凸性下的最优性的充分条件一维最优化方法（线性搜索方法）已知并且求出了处的可行下降方向从出发，沿方向求目标函数的最优解，或者选取使得：问题描述即设其最优解为（叫精确步长因子），所以线性搜索是求解一元函数的最优化问题（也叫一维最优化

8、问题）。我们来求解：于是得到一个新点：一般地，线性搜索算法分成两个阶段：第一阶段