资源描述：
《《约束最优化方法》PPT课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、约束最优化方法约束最优化方法问题minf(x)s.t.g(x)≤0分量形式略h(x)=0约束集S={x
2、g(x)≤0,h(x)=0}1Kuhn-Tucker条件一、等式约束性问题的最优性条件：考虑minf(x)s.t.h(x)=0回顾高等数学中所学的条件极值：问题求z=f(x,y)极值minf(x,y)在ф(x,y)=0的条件下。S.t.ф(x,y)=0引入Lagrange乘子：λLagrange函数L(x,y;λ)=f(x,y)+λф(x,y)(fgh)(fh)即一、等式约束性问题的最优性条件：(续)若(x*,y*)
3、是条件极值，则存在λ*，使fx(x*,y*)+λ*фx(x*,y*)=0fy(x*,y*)+λ*фy(x*,y*)=0Ф(x*,y*)=0推广到多元情况，可得到对于(fh)的情况：minf(x)s.t.hj(x)=0j=1,2,…,l若x*是(fh)的l.opt.,则存在υ*∈Rl使矩阵形式：分量形式：一、等式约束性问题的最优性条件：(续)几何意义是明显的：考虑一个约束的情况：最优性条件即：-▽f(ㄡ)ㄡ▽h(ㄡ)h(x)-▽f(x*)▽h(x*)这里x*---l.opt.▽f(x*)与▽h(x*)共线，而ㄡ非l.op
4、t.▽f(ㄡ)与▽h(ㄡ)不共线。二、不等式约束问题的Khun-Tucker条件：考虑问题minf(x)s.t.gi(x)≤0i=1,2,…,m设x*∈S={x
5、gi(x)≤0i=1,2,…,m}令I={i
6、gi(x*)=0i=1,2,…,m}称I为x*点处的起作用集（紧约束集）。如果x*是l.opt.,对每一个约束函数来说，只有当它是起作用约束时，才产生影响，如：(fg)g2(x)=0x*g1(x)=0g1(x*)=0,g1为起作用约束Kuhn-Tucker条件二、不等式约束问题的Khun-Tucker条件：（续）特
7、别有如下特征：如图在x*：▽f(x*)+u*▽g(x*)=0u*>0要使函数值下降，必须使g(x)值变大，则在ㄡ点使f(x)下降的方向（-▽f(ㄡ)方向）指向约束集合内部，因此ㄡ不是l.opt.。▽g(ㄡ)-▽f(ㄡ)X*-▽f(x*)▽g(x*)二、不等式约束问题的Khun-Tucker条件：（续）定理（最优性必要条件）：（K-T条件）问题(fg),设S={x
8、gi(x)≤0},x*∈S,I为x*点处的起作用集，设f,gi(x),i∈I在x*点可微，gi(x),iI在x*点连续。向量组{▽gi(x*),i∈I}线性无
9、关。如果x*----l.opt.那么，u*i≥0,i∈I使二、不等式约束问题的Khun-Tucker条件：（续）123412g1=0g2=0g4=0x1g3=0x2x*▽g2(x*)▽g1(x*)-▽f(x*)(3,2)T二、不等式约束问题的Khun-Tucker条件：（续）用K-T条件求解：二、不等式约束问题的Khun-Tucker条件：（续）二、不等式约束问题的Khun-Tucker条件：（续）可能的K-T点出现在下列情况：①两约束曲线的交点：g1与g2,g1与g3,g1与g4,g2与g3,g2与g4,g3与g4。
10、②目标函数与一条曲线相交的情况：g1，g2,g3,g4对每一个情况求得满足(1)~(6)的点(x1,x2)T及乘子u1,u2,u3,u4,验证当满足可得，且ui≥0时，即为一个K-T点。下面举几个情况：●g1与g2交点：x=(2,1)T∈S,I={1,2}则u3=u4=0解二、不等式约束问题的Khun-Tucker条件：（续）●●二、不等式约束问题的Khun-Tucker条件：（续）●三、一般约束问题的Kuhn-Tucker条件三、一般约束问题的Kuhn-Tucker条件(续)一、解线性约束问题的既约梯度法一、解线性约
11、束问题的既约梯度法（续）一、解线性约束问题的既约梯度法（续）一、解线性约束问题的既约梯度法（续）一、解线性约束问题的既约梯度法（续）一、解线性约束问题的既约梯度法（续）算法：x(1)∈S,k=1k=k+1Jk={j
12、xj为x(k)中最大m个正分量之一}B=[…,aj(j∈Jk),…]N=[…,aj(jŒJk),…]YNT=▽NfT(x(k))-▽BfT(x(k))B-1NdB=-B-1NdN解得x(k+1)=x(k)+λkdd=0?YNStop;x(k)~K-T点一、解线性约束问题的既约梯度法（续）二、广义既约梯度法（
13、续）二、广义既约梯度法（续）3罚函数法1.罚函数概念（续）3罚函数法1.罚函数概念（续）图示3罚函数法2.罚函数法：（fgh）3罚函数法2.罚函数法：（续）3罚函数法2.罚函数法：（续）算法：初始x(1),μ1>0,β>1,ε>0,k=1以x(k)为初始点，解minf(x)+μα(x)得到，x(k+1)μkα(x(k+1))<εy
