最新3-2-优化理论基础教学讲义ppt课件.ppt

《最新3-2-优化理论基础教学讲义ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、3-2-优化理论基础2021/8/822021/8/832021/8/87二维无约束最优化设计问题几何意义f(X(1))=a2f(X)=a1f(X)=a2f(X)=a3f(X)=a4f(X(2))=a2X(2)=[x1(2),x2(2)]X(1)=[x1(1),x2(1)]Of(X)x2x1X*2021/8/882021/8/892021/8/8102021/8/8112021/8/812x1x2f(x)f(x)g(x)g1(x)g2(x)O2021/8/8132021/8/814x2x1X*1g4(X)g3(X)g1(X)g1(

2、X)X*20.25f(X)=12.253.846.25f(X)=912123O2021/8/8152021/8/816二维目标函数等值线形态分析X1*x1x201123X2*X3*x1x2012323456X1*2021/8/8173-2约束最优解和无约束最优解2021/8/818二维优化问题进行几何描述例对二维优化问题进行几何描述。约束线、可行域、目标函数等值线、约束极值点213x221-1-2-3-1-2-4-5x1f(X)X*g1(X)g2(X)02021/8/819几何意义上来说明约束最优解和无约束最优解设已知目标函数f(

3、X)=x12+x22-4x1+4，受约束于g1(X)=x1-x2+20g2(X)=x10g3(X)=x20g4(X)=-x12+x2-10求其最优解X*和f(X*)。2021/8/820x1x2x2x1f(X)f(X)g1(X)g4(X)Og2(X)g4(X)g1(X)g3(X)f(X)等值线6.2543.810.251234O-212X*(1)X*(2)(b)(a)D2021/8/8212021/8/8223-3局部最优解和全域最优解2021/8/823X2*X1*f(X)x2x12021/8/8242021/8/825

4、2021/8/8262021/8/8272021/8/8283-4无约束目标函数的极值点存在条件一、函数的极值与极值点以一元函数为例说明函数的极值与极值点。如图所示为定义在区间[a，b]上的一元函数f(X)2021/8/829f(x)xf(a)f(x(1))f(x(2))x(1)f(x(3))f(b)x(3)x(2)ab2021/8/830图上有两个特殊点x(1)与x(2)在x(1)附近，函数f(x)的值以f(x(1))为最大；在x(2)附近，函数值以f(x(2))为最小。2021/8/831因此x(1)与x(2)即为函数的极大点

5、与极小点，统称为函数f(x)的极值点。f(x(1))与f(x(2))相应地为函数的极大值与极小值，统称为函数f(x)的极值。2021/8/832需要注意，这里所谓极值是相对于—点的附近邻域各点而言的，仅具有局部的性质，所以这种极值又称为局部极值。2021/8/833函数的最大值与最小值是指整个区间而言的。如图中函数的最大值为f(b)，函数的最小值为f(a)。函数的极值并不一定是最大值或最小值。2021/8/834二、极值点存在的条件(一)一元函数(即单变量函数)的情况(1)极值点存在的必要条件2021/8/835在高等数学中已经学

6、过：如果函数f(x)的一阶导数f’(x)存在，则欲使x*为极值点的必要条件为：f’(x*)＝02021/8/836仍以图中所示一元函数为例，由图可见，在x(1)与x(2)处的f’(x(1))与f’(x(2))均等于零，即函数在该两点处的切线与x轴平行。但使f’(x)＝0的点并不一定都是极值点。2021/8/837f(x)xf(a)f(x(1))f(x(2))x(1)f(x(3))f(b)x(3)x(2)ab2021/8/838使函数f(x)的一阶导数f’(x)＝0的点称为函数的驻点。极值点(对存在导数的函数)必为驻点驻点不一定是极

7、值点驻点是否为极值点可以通过二阶导数f’’(x)来判断。2021/8/839(2)极值点存在的充分条件若在驻点附近f’’(x)0则该点为极大点；若在驻点附近f’’(x)0则该点为极小点。2021/8/840在图中的x(3)附近，其右侧f’’(x)0，但其左侧f’’(x)0，因此它不是极值点。可见，函数二阶导数的符号成为判断极值点的充分条件。2021/8/841函数的偏导数偏导数是指在某坐标轴方向函数值的变化率连续可微的n维函数f(X)=f(x1,x2,…,xn)，在点X(K)=[x1(K),x2(K),…,xn(K)]T的

8、一阶偏导数表示为，…，三、多元函数的方向导数、梯度和赫赛矩阵函数的梯度n维函数的梯度是函数各维一阶偏导数组成的向量2021/8/843梯度的模是函数各维一阶偏导数平方和的开方梯度与它的模的比值称为梯度的单位向量2021/8/844函数梯度的性质1、