神经网络结合遗传算法优化应用

《神经网络结合遗传算法优化应用》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、万方数据第21卷第2期2004年5月贵州大学学报(自然科学版)JoumalofGllizhouUlliv啪ity(N曲】墙1Science8)V01．2l№．2May．2004文章编号1000—5269(2004)02一0179一06神经网络结合遗传算法优化应用赖鑫生(贵州大学信息与计算机科学学院计算机科学系，贵州贵阳550025)摘要神经网络特另1】是BP网络因其函数逼近能力已取得了广泛的应用，遗传算法因其解决优化问题的普遍适用性而在现实生活及科研领域获得了广泛应用。本文提出的优化策略是为解决一

2、些工程优化问题，即用神经网络及遗传算法结合起来解决此类问题。以BP网络的函数逼近能力隐式地得到问题的函数表达式，再用遗传算法优化该网络的输出。关键词BP神经网络；优化；遗传算法；函数逼近中图分类号1lPl83文献标识码A1引言前馈神经网络(FeedForw盯d)型神经网络是非循环的多级网络。BP(BackPropagation)算法是由Rumeman等于1986年提出的多层前馈神经网络的学习算法⋯，它的适用性使得它成为应用最为广泛的多级网络训练算法。它的提出也极大地促进了神经网络监督学习的理论和应

3、用的研究。监督学习可以看作是函数逼近过程，即通过神经阿络的输出来逼近样本点的给定函数值。RobertHecht—Niel∞n已经从理论上证明了人工神经网络具有很强的非线性映射能力，对于任何闭区间连续函数都可以用具有一个隐层的前馈型网络来逼近怛】。对于神经网络的函数逼近和泛化能力，已获得了广泛应用。如利用标准BP网络在降雨预报中的应用[3】。利用BP神经网络模型预报岩溶水水位【4】，等等。这些应用都是利用BP网络的函数逼近能力来拟合函数，再利用BP网络的泛化能力预测某些点的函数值。遗传算法(Gene

4、tica190ritllms，简称GA)自Hou肌d等于1975年提出以来"J，它的函数优化能力不仅在适应性系统模拟、函数优化、机器学习、自动控制等领域得到广泛应用，已成功地应用于工程设计、工商管理、科学实验等领域中地复杂优化问题的求解，如文献[6]。使用遗传算法对优化问题求解，必须知道目标函数的显式表达式，才能计算适应值。然而，很多优化问题要导出内在的函数关系式往往不是那么容易，所以就难以用遗传算法来优化。本文做了用BP神经网络和遗传算法结合起来解决一些工程优化问题的尝试，取得一定的效果，说明该

5、方法是有效可行的。本文安排如下：下一部分简单介绍了BP神经网络基本原理，第三部分简单介绍遗传算法的基本原理，第四部分给出了BP神经网络和遗传算法结合优化问题的具体步骤，第五部分是一些实验及分析，最后是结论。2前馈型神经网络的基本原理一个典型的三层前馈神经网络的拓扑结构如图1所示。设网络的输入层、隐层和输出层的节点个数分别为M，M和ⅣD，设输人向量为[省。，菇：，⋯，石M]，从结构上讲，三层BP网络是一个典型的前馈型层次网络‘71，它被分为输入层LA、隐层LB和输出层LC。同层节点间无关联，异层神经

6、元间前向连接。其中，LA层含m个节点，对应于BP网络可感知的m个输入；LC层含有凡个节点，与BP网络的n种输出响应相对应，LB层节点的数目Ⅱ可根据需要设置。鼍收稿日期：2003一12一10作者简介：赖鑫生(1卯2一)，男，在读硬士研究生。研究方向：人工智能。万方数据·180·贵州大学学报(自然科学版)第21卷令LA层节点口；到LB层节点6，间的连接权为埘扣，LB层节点6，到LC层节点勺间的连接权为％，z为LB层节点的阈值，61『为LC层节点的阈值，则LB层中节点的输出函数为6，=八∑训打·口；+r

7、)(r=l，⋯，u)I=ILC层中节点的输出函数为q=八∑tJ巧·6，+61『)(_『=1，⋯，n)其中以·)为s型函数，即苁戈)=(1+e。)～。对有限数目的二值型或连续型模式对(A仆)，c¨’)(1j}=l，⋯，p)，一般来说，三层前馈型BP网络可按给的BP算法进行存储，以实现预定的映射A(‘)_c‘¨，只要A似’可表达为Ao’=(口：¨，口：¨，⋯，口0’)c‘‘’可表达为c‘‘’=(c{n，ci¨，⋯，c，’)。且口：”∈尺，c：”ER，(R为实数域)。其学习过程如下所述：LALBLC隐蔽

8、层圈1三层前馈型BP网络1)给埘。，z，移玎，B随机赋一个较小的值。2)对每一模式对(A‘¨，c‘‘’)，(

9、j}=1，⋯，p)，p为样本数，进行下列操作。(1)将A‘‘’的值(口：‘’)输人LA层节点，据LA层节点激活值口；，依次正向计算：6，=只∑叫扣·口；+z)(r=1，⋯，H)J2Iq=八∑t，巧·6，+61『)(_『=l，⋯，n)(2)计算Lc层节点输出cf与期望输出值c：”的误差，令嘭=q·(1一q)·(0”一q)(3)向LB层节点反向分配误差，令e，=6，·(1_6，