无约束优化方法(已排)

《无约束优化方法(已排)》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第4章无约束优化方法l第1章所列举的机械优化设计问题，都是在一定的限制条件下追求某一指标为最小，它们都属于约束优化问题。工程问题大都如此。l为什么要研究无约束优化问题：l(1)有些实际问题，其数学模型本身就是一个无约束优化问题。l(2)通过熟悉它的解法可以为研究约束优化问题打下良好的基础。l(3)约束优化问题的求解可以通过一系列无约束优化方法来达到。所以无约束优化问题的解法是优化设计方法的基本组成部分，也是优化方法的基础。1l无约束优化问题是：Tl求n维设计变量x[xxx]12nl使目标函数：f(x)minnminf(x)xR各种无约束优化解法的区别：搜索方向的不同分类：

2、（1）不使用导数信息（2）要使用导数。k1kkxxd(k0,1,2,)k搜索方向的构成问题乃是无约束优化方法的关键。2如何搜索目标？3函数的负梯度方向是函数值下降最快的方向。搜索方向d取该点的负梯度方向f(x)(最速下降方向)，使函数值在该点附近的范围内下降最快。k1kkxxd(k0,1,2,)kk1kkxxaf(x)(k0,1,2,)kk为了使目标函数值沿搜索方向f(x)能够获得最大的下降值，其步长因子应取一维搜索的最佳步长。即有kk1kkkkf(x)f[xaf(x)]minf[xaf(x)]kamin()a4根

3、据一元函数极值的必要条件和多元复合函数求导公式，得Tkkk'()f[xkf(x)]f(x)0k1Tk[f(x)]f(x)0k1Tk(d)d0在最速下降法中，相邻两个迭代点上的函数梯度相互垂直。而搜索方向就是负梯度方向，因此相邻两个搜索方向互相垂直。这就是说在迭代点向函数极小点靠近的过程，走的是曲折的路线。形成“之”字形的锯齿现象，而且越接近极小点锯齿越细。5开始0给定x,k0kkdf(x)k1kkkk1xxdkkk:minf(xd)k是否k1kxx*k1xx结束622例4-1求目标函数f(x)x12

4、5x2的极小点。解取初始点0Tx[2,2]则初始点处函数值及梯度分别为0f(x)1042x401f(x)50x2x0100沿负梯度方向进行一维搜索，有241000xxf(x)021000为一维搜索最佳步长，应满足极值必要条件0122f(x)min(24)25(2100)min()7'()8(24)5000(2100)000算出一维搜索最佳步长6260.02003072031252第一次迭代设计点位置和函数值241.91987710x21

5、000.307178510201f(x)3.686164继续作下去，经10次迭代后，得到最优解Tx00f(x)08这一问题的目标函数f(x)的等值线为一簇椭圆。22f(x)x25x将上例中目标函数12引入变换y1=x1,y2=5x2则函数f(x)变为：22(y,y)yy1212其等值线由椭圆变成一簇同心圆。0T0T仍从x[2,2]即y[2,10]出发进行最速下降法寻优。此时：0(y)1042y401(y)2y2y020沿负梯度方向进行一维搜索：9100yy(y)024240

6、0102010200β为一维搜索最佳步长，可由极值条件：100(y)min[y(y)]min()22()(24)(1020)由()00260.5052从而算得一步计算后设计点的位置及其目标函数：1024010y1020001(y)0经变换后，只需一次迭代，就可找到最优解。这是因为经过尺度变换：yx11y5x22等值线由椭圆变成圆。111l（1）理论明确，程序简单，对初始点要求不严格。l（2）对一般函数而言，梯度法的收敛速度并不快，因为最速下降方向仅仅是指

7、某点的一个局部性质。l（3）梯度法相邻两次搜索方向的正交性，决定了迭代全过程的搜索路线呈锯齿状，在远离极小点时逼近速度较快，而在接近极小点时逼近速度较慢。l（4）梯度法的收敛速度与目标函数的性质密切相关。对于等值线(面)为同心圆（球）的目标函数，一次搜索即可达到极小点。12利用有限的信息！13(x)(x)f(x)k1xf(x)kkTkf(x)(x)f(x)f(x)(xx)1kT2kk(xx)f(x)(xx)2设k1为的极小点x(x)k1(x)