资源描述：
《基于遗传算法的神经网络算法研究》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。
1、第3卷第4期太原师范学院学报(自然科学版)Vol.3No.42004年12月JOURNALOFTAIYUANTEACHERSCOLLEGE(NaturalScienceEdition)Dec.2004X基于遗传算法的神经网络算法研究樊为民(镇江市高等专科学校,江苏镇江212003)〔摘要〕针对神经网络存在许多局部最小点,在某些初值的条件下,算法的结果会陷入局部最小等问题.文章将遗传算法和神经网络相结合,用遗传算法替代BP算法学习网络权值,并将其应用于聚类分析.计算结果表明,遗传算法和神经网络的结合将具有良好的全局搜
2、索能力.〔关键词〕神经网络;遗传算法;全局最优解;随机搜索〔文章编号〕167222027(2004)0420014204〔中图分类号〕TP183〔文献标识码〕A0引言神经网络是目前在国际上迅速发展的一门前沿性交叉学科,由于其具有非线性映射、学习分类及并分布式信息处理等功能,人工神经网络已逐渐成为工程和科学研究中一种重要信息处理手段.但由于非线性所固有的复杂性,它也存在不少问题.例如,BP算法的实质是梯度下降法,它存在着学习收敛速度较慢以及存在许多局部最小点,在某些初值的条件下,算法的结果会陷入局部最小.除此以外,还
3、有初始随机加权的大小,对局部最小的影响很大等问题.为了解决BP算法经常陷入局部最小和收敛过程较长之问题,通常使用一些全局最优化算法与BP算法相结合的方法.常用的全局最优化算法是模拟退火算法、遗传算法等.本文在研究了遗传算法和神经网络算法的基础上,将遗传算法融入到神经网络的内部.用遗传算法代替BP算法训练网络权值,从而增加了网络的鲁棒性,消除了局部最优问题.1遗传算法及其改进1.1传统的遗传算法遗传算法(GA)是自然遗传学和计算机科学相互渗透而成的新的计算方法,它是美国J.Holland教授提出,其主要特点是群体搜索
4、策略和群体中个体之间信息交换,搜索不依赖于梯度信息.它尤其适用于处理传统搜索方法难以解决的复杂和非线性问题,可广泛用于组合优化、机器学习、自适应控制、规划设计和人工生命等领域.遗传算法是具有“生成+检测”的迭代过程的随机搜索算法.遗传算法的基本流程:遗传算法是一种群体型操作,该操作以群体中的所有个体为对象.选择、交叉、变异是遗传操作的3个主要操作算子,见图1.它们构成所谓的遗传操作,使得遗传算法具有了其他传统方法所没有的特性.遗传算法中包含了如下5个基本要素:(1)参数编码;(2)初始群体的设定;(3)适应度函数的
5、设计;(4)遗传操作设计;(5)控制参数设计(主要指群体大小和使用遗传操作的概率等).这5个要素构成了遗传算法的核心内容.[1]1.2改进的遗传算法传统的遗传算法中染色体采用二进编码,它将导致影响数值优化问题的精度,同时频繁的编码,解码增加了计算工作量,为了克服传统遗传算法在求解数值优化问题中的不足,在遗传算法中作以下的改进:1.2.1染色体的构造在改进的遗传算法中采用实数对染色体进行编码,每个染色体是一组随机产生的网络权值,每个权值看作染色体的一个基因.遗传操作中的交叉、变异操作将对每个基因进行.X收稿日期:20
6、03210227作者简介:樊为民(19692),男,江苏泗阳县人,镇江高等专科学校讲师.第4期樊为民:基于遗传算法的神经网络算法研究1.2.2适应度函数的确定遗传算法在随机搜索进化过程中一般不需要其他外部信息,仅用评估函数值来评估个体或解的优劣,并作为以后遗传操作的依据.本文选用f=C-∑∑(tij-dj)为适应度函数,其中tij为网络输出的期望值,dj为网络输出的实际值,C为某一常数,在遗传进化中f值将趋向最大值C.1.2.3选择选择操作的目的是为了从当前群体中选出优良个体,使它们有机会作为父代为下一代繁殖子孙.
7、判断个体优良与否的准则就是根据个体的适应度值.这一操作是借用了达尔文的适者生存的进化原则,个体适应度越高,其被选择的机会就越多.适应度值图1遗传算法的基本流程N∑fmFig.1Thebasalflowchartofq1fm(m=1,2,⋯,N)大于平均适应度值f=的个体将首先geneticalgorithmNfm被选为产生下一新群体的侯选解,另一部分侯选解是以群体中每一个体的适应度值的比例概率p=N∑fm1产生,其中概率大的个体有机会进入侯选解,概率小的个体也有机会进入侯选解,保证群体中个体的多样性,防止算法落入局
8、部最优.[2]1.2.4交叉交叉操作是遗传算法中最主要的遗传操作.交叉操作在某一代群体中,随机选择A和B两个个体进行遗传算法的交叉操作,交叉操作产生的新个体AB′和AB″.在A、B、AB′和AB″中,适应度较大的两个个体将作为产生新一代群体的侯选解.群体中个体进行交叉操作的概率为:fmax-fmfm≥favgPc=fmax-favg1.0otherwise其
