工程优化设计中的数学方法硕士研究生西安电子

《工程优化设计中的数学方法硕士研究生西安电子》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、3.1搜索算法结构一、下降算法模型考虑（fs）常用一种线性搜索的方式来求解：迭代中从一点出发沿下降可行方向找一个新的、性质有改善的点。迭代计算：其中为第次迭代的搜索方向，为沿搜索的最佳步长因子（通常也称作最佳步长）。minf(x)s.t.x∈S第三章常用的一维搜索方法△可行方向：设∈S，d∈Rn,d≠0,若存在，使，称d为点的可行方向。同时满足上述两个性质的方向称下降可行方向。△下降方向：设∈S，d∈Rn,d≠0,若存在，使，称d为在点的下降方向。模型算法线性搜索求，新点使x(k+1)∈S初始x(1)∈S,k=1对x(k)点选择下降可行

2、方向d(k)是否满足停机条件？停k=k+1yesno531二、收敛性概念：考虑（fs）设迭代算法产生点列{x(k)}S.1.理想的收敛性：设x*∈S是g.opt(全局最优解).当x*∈{x(k)}或x(k)≠x*，k，满足时，称算法收敛到最优解x*。minf(x)s.t.x∈S由于非线性规划问题的复杂性，实用中建立下列收敛性概念：2.实用收敛性：定义解集S*={x

3、x具有某种性质}例：S*={x

4、x---g.opt}S*={x

5、x---l.opt}S*={x

6、f(x)=0}S*={x

7、f(x)≤β}(β为给定的实数，称为阈值)2.

8、实用收敛性（续）▲收敛性：设解集S*≠，{x(k)}为算法产生的点列。下列情况之一成立时，称算法收敛：1°x(k)∈S*;2°x(k)S*，k，{x(k)}的任意极限点∈S*。▲全局收敛：对任意初始点x(1),算法均收敛。局部收敛：当x(1)充分接近解x*时，算法收敛。有限步终止三、收敛速度设算法产生点列{x(k)}，收敛到解x*，且x(k)≠x*，k，关于算法的收敛速度，有1.线性收敛：当k充分大时成立。2.超线性收敛：3.二阶收敛：﹥0，是使当k充分大时有三、收敛速度（续）定理：设算法点列{x(k)}超线性收敛于x*,且

9、x(k)≠x*，k，那么证明：只需注意

10、

11、

12、x(k+1)–x*

13、

14、-

15、

16、x(k)–x*

17、

18、

19、≤

20、

21、x(k+1)–x(k)

22、

23、≤

24、

25、x(k+1)–x*

26、

27、+

28、

29、x(k)–x*

30、

31、，除以

32、

33、x(k)–x*

34、

35、并令k→∞，利用超线性收敛定义可得结果。该结论导出算法的停止条件可用：四、二次终结性▲一个算法用于解正定二次函数的无约束极小时，有限步迭代可达最优解，则称该算法具有二次终结性。问题描述：已知并且求出了处的可行下降方向从出发，沿方向求如下目标函数的最优解，或者选取使得：常用的一维搜索算法设其最优解为（叫精确步长因子），所以线性搜索是求解

36、一元函数的最优化问题（也叫一维最优化问题或一般地，一维优化问题可描述为：于是得到一个新点：一维搜索）。或解一般地，线性搜索算法分成两个阶段：第一阶段确定包含理想的步长因子（或问题最优解）的搜索区间；第二阶段采用某种分割技术或插值方法缩小这个区间。搜索区间的确定黄金分割法(0.618法)二次插值法Newton法要点：单峰函数的消去性质、进退算法基本思想、黄金分割法基本思想、重新开始、二次插值法要求、极小化框架、Newton法基本思想、方法比较。我们主要介绍如下一些搜索方法：学习的重要性：1、工程实践中有时需要直接使用；2、多变量最优化的基

37、础，迭代中经常要用到。方法分类：1、直接法：迭代过程中只需要计算函数值；2、微分法：迭代过程中还需要计算目标函数的导数；f(x)xab§3.2搜索区间的确定常用的一维直接法有消去法和近似法两类。它们都是从某个初始搜索区间出发，利用单峰函数的消去性质，逐步缩小搜索区间，直到满足精度要求为止。§3.2.1单峰函数连续单峰函数f(x)xab不连续单峰函数f(x)xab离散单峰函数f(x)xab非单峰函数定义：如果函数f(x)在区间[a,b]上只有一个极值点,则称f(x)为[a,b]上的单峰函数。单峰函数具有一个重要的消去性质定理：设f(x)是

38、区间[a,b]上的一个单峰函数，x*∈[a,b]是其极小点，x1和x2是[a,b]上的任意两点，且a

39、.2进退算法(或称成功-失败法)如何确定包含极小点在内的初始区间?（一）基本思想：由单峰函数的性质可知，函数值在极小点左边严格下降，在右边严格上升。f(x)xabx*x0x1x2从某个初始点出发，沿函数值下