基本知识简介(2)

《基本知识简介(2)》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、工程优化设计中的数学方法工程优化设计中的数学方法硕士研究生课程硕士研究生课程理学院数学系：穆学文Tel:88207669E-mail:mxw1334@163.comò下载课件邮箱：mxw_1334@sohu.comò密码：654321第二章基础知识ò多元函数及其导数ò等高线ò二元函数ò多元函数的极值ò凸集、凸函数和凸规划ò重要的不等式ò下降迭代算法及其收敛性§4多元函数的极值全局极小点可能在某个局部极小点达到，也可能在边界达到。我们希望知道的当然是全局极小点，而到目前为止的一些最优化算法却基本上是求局部极小值点的。因此一般要先求出所有局部极小值点，再从中找出全局极小点。为了求出函数的局部极小值

2、点，我们首先希望知道函数f在局部极小点处满足什么条件？以及满足什么条件的点是局部极小点。n1定理3：设fD:,⊂→RR具有连续的一阶偏导数，若*是的局部极小点，且为可行集D的xf内点,则*∇fx()=0.注意：定理中条件仅为必要的，而不是充分的。*证明:设e为任意单位向量,因为x是f()x的局部极小点。**由定义知：∃>δ0,当t<δ,即xt+∈eN(x,δ)时，总有：**fx()≤fx(+te)*令ϕ()tf=+()xte（一元辅助函数）*则上式即为：ϕ()0,≤ϕδ(tt)∀<.而是xD的内点。从而与之对应的t=0是ϕ()t的局部极小点。根据一元函数极小点必要性条件知：,,,*Tϕϕ()t

3、

4、t=0=(00)=,而由前述性质知：ϕ()tf=∇(x+te)eT*,*00fxe∇fx=0则ϕ()=∇()=,由单位向量任意性，即知()**∇f(x)**T（否则∇≠fx()0，取e=则∇fx()⋅∇fx()=0矛盾*∇f()x例：fx(),.x=xx在*()T处梯度为1212x=0,00∇=f()0,00x*但x只是双曲抛物面的鞍点，而不是极小点。n1*定义：设f:,DR⊂→Rx是D的内**点，若∇=fx()0，则称x为f的驻点。n1定理4：设fD:,⊂→RR具有连续的二阶偏导数，**2*x是D的内点，若∇fx()=0，且∇fx()正定，*则是xf(x)的严格局部极小点。注：

5、但我们实际中解最优化问题时，一般难以求得目标函数的Hesse矩阵。更难判别其正定性。因此定理又只具有理论上的意义。2*n证明：因∇fx()正定，则∃λ>0.，使对∀∈pR，均有：T2*2pf∇(x)p≥>λp0**将f在处x按Taylor公式展开。∇fx()=0，有：11T222**2*****f()x−=f()x()xx−∇f(x)()xx−+0(xx−)≥λxx−+o(x−x)22**当x充分接近xx(≠x)时，上式左端的符号取*决于右端的一项（为正）。故f(x)>f(x).x推论1：对于具有对称正定矩阵的二次函数：1TTfx()=xQx++bxC2*1−xQ=−b是它的唯一极小点。证明:

6、求此二次函数的驻点，由∇fx()=+Qxb=0*1−知有唯一驻点xQ=−b，而这点处的Hesse2*阵正∇=f(xQ)定。*1−故由定理又知：xQ=−b是其唯一极小点。推论2：若多元函数在其极小点处的Hesse阵正定，则它在这个极小点附近的等值面近似地呈现为同心椭球面族。*证明：设x是多元函数f的极小点。并设f()xr=是充分**fx()靠近极小点x的一个等值面，即xx−充分小。将*在x点展开为Taylor公式。TT12****2***fx()=+fx()∇fx()(x−x)+()x−x∇fx()()x−x+0(x−x)2**因x为极小值点∇fx()=0。2*又0(xx−)是高阶无穷小量。省略

7、。则有：1T**2**f()xx+−∇()xf(xx)()−x≈f()xr=.2这是等值面f()xr=的一个近似曲面。2*由于假设∇fx()正定，则1T**2**f()xx+()−∇xf(xx)()−x=r.2*是以x为中心的椭球面方程。nn可行方向：设，xD∈⊆R,h∈R若∃>δ0,对∀α∈(0,δ)以点x为始点的向量αh均位于D的内部，则称h为点x的一个可行方向。注意：1.如果x为D的内点，则任何方向h都是可行方向；若x为D边界点，则只有一部分为可行方向**2.如果x为f()x的极小点,则f()x在x处沿任何方向h，函数值均不减少，即∂fT=hf∇≥()x0()h=1∂h1*n定理5：设f

8、D:,→⊆RDR,x∈D,如果f()x二阶可微，*T*且对于在点x的任何可行方向h，都有hf∇()x≥0，*并有∇>2*fx()0，则x为f()x的严格局部极小值点。§5凸集、凸函数和凸规划§5.1凸集nxx12,,D0,1,定义4：设，D⊆R∀∈∀α∈[]恒有12ααxx+−(1)∈D,∀α∈[]0,1,称集合D为凸集。ò凸集的几何特征：连接形体中任意两点的直线段，都在该形体之中。ò空集和只有一