算法大全现代优化算法

《算法大全现代优化算法》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、算法大全现代优化算法第二十三章现代优化算法现代优化算法是80年代初兴起的启发式算法。这些算法包括禁忌搜索（tabusearch），模拟退火（simulatedannealing），遗传算法（geneticalgorithms），人工神经网络（neuralnetworks）。它们主要用于解决大量的实际应用问题。目前，这些算法在理论和实际应用方面得到了较大的发展。无论这些算法是怎样产生的，它们有一个共同的目标－求NP-hard组合优化问题的全局最优解。虽然有这些目标，但NP-hard理论限制它们只能以启发式的算法去求解实际问题。启发式算法包含的算法很多，例如解决复杂优化问题

2、的蚁群算法（AntColonyAlgorithms）。有些启发式算法是根据实际问题而产生的，如解空间分解、解空间的限制等；另一类算法是集成算法，这些算法是诸多启发式算法的合成。现代优化算法解决组合优化问题，如TSP（TravelingSalesmanProblem）问题，QAP（QuadraticAssignmentProblem）问题，JSP（Job-shopSchedulingProblem）问题等效果很好。§1模拟退火算法1.1算法简介模拟退火算法得益于材料的统计力学的研究成果。统计力学表明材料中粒子的不同结构对应于粒子的不同能量水平。在高温条件下，粒子的能量较高

3、，可以自由运动和重新排列。在低温条件下，粒子能量较低。如果从高温开始，非常缓慢地降温（这个过程被称为退火），粒子就可以在每个温度下达到热平衡。当系统完全被冷却时，最终形成处于低能状态的晶体。如果用粒子的能量定义材料的状态，Metropolis算法用一个简单的数学模型描述了退火过程。假设材料在状态i之下的能量为E(i)，那么材料在温度T时从状态i进入状态j就遵循如下规律：（1）如果E(j)≤E(i)，接受该状态被转换。（2）如果E(j)>E(i)，则状态转换以如下概率被接受：E(i).E(j)KTe其中K是物理学中的波尔兹曼常数，T是材料温度。在某一个特定温度下，进行了充

4、分的转换之后，材料将达到热平衡。这时材料处于状态i的概率满足波尔兹曼分布：E(i).KTePT(x=i)=E(j)KTΣe.j∈S其中x表示材料当前状态的随机变量，S表示状态空间集合。显然EiKT1lim=e..→∞()()jE

5、S

6、KTTΣe-271-jS∈其中

7、S

8、表示集合S中状态的数量。这表明所有状态在高温下具有相同的概率。而当温度下降时，E(i).EminE(i).Emin..KTKTeelim=limT→0E(j).EminT→0E(j).EminE(j).Emin...KTKTKTΣeΣe+Σej∈Sj∈Sminj.SminE(i).Emin=lime.KT

9、=...

10、S1min

11、若i∈SminE(j).ET→0min∈minjS其中Σe.KT..0其它Emin=minE(j)且Smin={i

12、E(i)=Emin}。j∈S上式表明当温度降至很低时，材料会以很大概率进入最小能量状态。假定我们要解决的问题是一个寻找最小值的优化问题。将物理学中模拟退火的思想应用于优化问题就可以得到模拟退火寻优方法。考虑这样一个组合优化问题：优化函数为f:x→R+，其中x∈S，它表示优化问题的一个可行解，R+={y

13、y∈R,y>0}，S表示函数的定义域。N(x).S表示x的一个邻域集合。首先给定一个初始温度T0和该优化问题的一个初始解x(0)，并由

14、x(0)生成下一个解x'∈N(x(0))，是否接受x'作为一个新解x(1)依赖于下面概率：.1若f(x')

15、Ti下，经过很多次的转移之后，降低温度Ti，得到Ti+1