机械优化设计_第二章优化设计的数学基础

《机械优化设计_第二章优化设计的数学基础》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第二章优化设计的数学基础一、多元函数的方向导数和梯度二、多元函数的泰勒展开三、无约束优化问题的极值条件四、凸集、凸函数与凸规划五、等式约束优化问题的极值条件六、不等式约束优化问题的极值条件1、方向导数二元函数在点处的偏导数的定义是：二元函数在点处沿某一方向的变化率，其定义为方向导数一、多元函数的方向导数和梯度X1X10X20X2X0△X1△X2△dθ2θ1Od图1二维空间中的方向=+偏导数与方向导数的关系n元函数在点x0处沿d方向的方向导数2、二元函数的梯度令梯度当梯度方向和d方向重合时，方向导数值最大，即梯度方向是函数值变化最快方向，而梯度的模就是函数值变化率的最大值。梯度

2、的模：多元函数的梯度多元函数的梯度的模：函数的梯度方向与函数的等值面相垂直，也就是和等值面上过x0的一切曲线相垂直。由于梯度的模因点而异，即函数在不同点处的最大变化率是不同的。因此，梯度是函数的一种局部性质。梯度的两个重要性质：①函数在某点的梯度不为零，则必与过该点的等值面垂直（即为过点的等值线的法线方向）；②梯度方向具有最大变化率方向正梯度方向是函数值最速上升的方向，负梯度方向是函数值最速下降的方向。例1：求二次函数在点处的梯度。解：在点处的梯度为：例2：试求二次函数在点处的最速下降方向，并求沿这个方向移动一个单位长度后新点的目标函数值。解：则函数在处的最速下降方向为该方向

3、上的单位向量为新点该点函数值常用梯度公式：注意：梯度为向量二次型二、多元函数的泰勒展开在点处的泰勒展开为：其中1、一元函数2、二元函数其中：二元函数在点处的泰勒展开式为：上式写成矩阵形式：令上式可写成称为函数在点处的海赛（Hessian）矩阵参见教材例题P30海赛矩阵是由函数在点处的二阶偏导数组成的方阵。由于函数的二次连续性，有：所以矩阵为对阵方阵。海赛矩阵3、多元函数其中：梯度泰勒展开式若将函数的泰勒展开式只取到线性项，即取则是过点和函数所代表的超曲面相切的切平面。若将函数的泰勒展开式取到二次项时，则得到二次函数形式，在线性代数中将二次齐次函数称为二次型。矩阵形式-----

4、对称矩阵当对任何非零向量x使则二次型函数正定，G为正定矩阵。海赛矩阵的特征：是实对称矩阵。4、海赛矩阵与正定矩阵正定的充要条件：矩阵G的各阶顺序主子式为正，即矩阵负定的充要条件：矩阵G的奇数阶主子式主子式偶数阶主子式海赛矩阵的正定性：正定-----为全局极小值点的充分条件负定-----为全局极大值点的充分条件例3判定矩阵是否正定？解：该对称矩阵的三个主子式依次为：故可知矩阵G是正定的。定理：若二次函数中Q正定，则它的等值面是同心椭球面族，且中心为证明：作变换，代入二次函数式中：结论：Q为正定矩阵的二次型的等值面是以的同心椭球面族。原二次函数就是以为中心的同心椭球面族，椭圆中心

5、为极小值点。例4把二次函数化为矩阵向量形式并检验Q是否正定，如正定，试用公式求这个函数的极小点。解：与题中函数比较各系数得：由计算知Q正定，极小点三、无约束优化问题的极值条件1、一元函数对于可微的一元函数判断在处是否取得极值的过程：则为极小点。逐次检验其更高阶导数的符号，开始不为零的导数阶数若为偶次，则为极值点，若为奇次，则为拐点。则为极大点。2、二元函数定理1：若二元可微函数在处取得极值的必要条件是：即凡满足上式的点称为函数的驻点（零向量）如下图所示的二元函数，在M0点虽有和是个驻点，但它不是极值点。定理2：若二元可微函数在的某个邻域取得极小值的充分条件是要求在该点附近的一

6、切点均满足：若函数存在连续的一阶及二阶偏导数，当满足则泰勒展开式的函数增量近似式（略三阶以上高阶微量）为：令则可见，函数增量的性态与A,B,C的值有关。可以证明，当满足以下条件时，为极小值（证明略）。此条件反映了函数在该点的海赛矩阵的各阶主子式均大于零（即正定）。结论：二元函数在某点取得极小值的充分条件是要求该点处的海赛矩阵为正定。且对于二元函数在处取得极值的充分必要条件是：参见教材例题P323、多元函数对于多元函数若在处取得极值，则必要条件：充分条件：正定或负定四、凸集、凸函数与凸规划当极值点x*能使f(x*)在整个可行域中为最小值时，即在整个可行域中对任一x都有f(x)>

7、=f(x*),则x*为全域最优点（全域极小点）。若f(x*)为局部可行域中的极小值而非整个可行域的最小值时，则称x*为局部最优点或相对最优点。优化的目标是全域最优点。为了判断某个极值点是否为全域最优点，研究函数的凸性是必要的。函数的凸性表现为单峰性。对于具有凸性特点的函数来说，其极值点只有一个，因而该点既是局部最优亦是全域最优点。为了研究函数的凸性，下面引入凸集的概念：1、凸集如果对一切及一切满足的实数，点则称集合为凸集，否则称为非凸集。yx2x1若y是x1和x2连线上的点，则有整理后即得凸集的性质：若