基于遗传算法的BP网络优化研究

《基于遗传算法的BP网络优化研究》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第)’卷第&期武汉化工学院学报>?@1)’A?1&)##$年5月B1CDEFG.GHI1JEKL13KME1/DN1)##$文章编号!"##$$%&’()##$*#&##%)#$基于遗传算法的+,网络优化研究姚文俊(中南民族大学电子与信息工程学院-湖北武汉$&##%$*摘要!提出了一种改进的自适应遗传算法(./0/*-它利用网络结构的特点-采用前向自适应技术-实现对神经网络的有效训练1仿真实验表明-该算法优于+,算法和标准遗传算法(+0/*-网络训练质量和效率都有很大提高1关键词!神经网络2+,算法2遗传算法2改进的自适应遗传算法中图分类号!3,"4文献标识码

2、!/一般的处理方法是将0/和+,结合-按照不同的#引言先后次序轮流迭代运算-这种处理方法主要是易神经网络6"7已被广泛应用于智能控制8系统于陷入局部极值点-不能保证收敛到全局最优1优化8信号及信息处理8模式识别等领域-迄今研本文提出一种基于0/的多层前馈神经网络究和应用最多的是多层前向神经网络(+,网络*-结构和权值同时进化的自适应遗传算法-它利用其+,算法是应用最广泛的神经网络训练算法1网络结构的特点-采用自适应技术-将+,与0/但这种算法是在梯度法的基础上推算出来的-要有机结合-在评价函数中考虑了网络的结构-实现求目标函数连续可导-在局部搜索时比较成功1主

3、对神经网络的有效训练1实验表明-该算法训练神要缺点是收敛速度慢-容易陷入局部最优-找不到经网络优于+,算法和标准遗传算法(+0/*-网全局最小值-而且对于较大的搜索空间8多峰值和络训练质量和效率都有很大的提高1不可微函数也不能搜索到全局最小点1近年来-一种新的优化搜索算法99遗传算"0/训练多层前向神经(+,*网络法(0/*6)7正在迅速发展-0/以其极强的解决问"1"0/的基本原理题的能力和广泛的适应性运用于各个领域-并取0/是一种基于自然选择和自然遗传的全局得了良好的效果1如果将0/与+,网络结合起优化算法-采用从自然选择机理中抽象出来的选来-作为+,网络

4、的权重和结构训练方法-与单纯择-交叉和变异三种遗传算子对参数编码字符串的+,算法相比较-具有许多优点!("*0/采用整进行操作1由于操作是针对多个可行解构成的群体搜索策略-优化计算不依赖于传统的梯度法-因体进行-故在其世代更替中可以并行地对参数空此它尤其适合于处理传统方法难于解决的高度复间的不同区域进行搜索-并使搜索朝更有可能找杂的非线性问题2()*0/在搜索过程中不易陷入到最优的全局解方向进行1由于0/在寻优过程局部最优-更易找到全局最优点2(&*0/隐含并中只使用评价函数-不要求目标函数的可微性-因行搜索机制-其在处理较小数量的位串群体时-所此-0/算法具

5、有全局性-并行性-快速性-较好的处理的模式数量级为:(;&*1也就是-0/只花费适应性和鲁棒性的特点-是训练+,网络的一种了正比于群体规模;的计算量-但处理的模式数理想算法1量却正比于群体规模的三次方1用0/求解问题的一般步骤!("*对所需优化但0/的不足也是显而易见的!("*0/的局的参数进行染色体位串编码2()*产生初始群体2部搜索能力较弱-致使网络的训练精度和效率都(&*对群体进行评价-求出每个个体的适应度值2不可能太高2()*当0/在搜索时-能迅速到达最($*将遗传操作算子作用于群体-产生新一代群优解附近-但无法精确确定最优解的位置-即0/体1遗传操作

6、主要包括!<选择-它是0/的关键-在局部搜索空间不具备微调能力2(&*如何调节体现自然界中适者生存的思想2=交叉-是0/中0/的参数-才能得到最优结果1最主要的操作算子-可把优良信息传到下一代的收稿日期!)##&#&)&万方数据作者简介!姚文俊("5%#*-男-湖北天门人-讲师-硕士1研究方向!遗传算法和神经网络1第/期姚文俊k基于遗传算法的12网络优化研究j/某个子串中!使其具有优于父辈的性能!故交叉概和阈值!形式为>;的元表示第;Z.层节点4到64率"应取得较大!一般为$%&’$%()*变异!它保第;层节点6的连接权值)形式为‘;的元表示第;#6证了+,的

7、全局搜索!为了减少运算的随机性!变层节点6的阈值%异概率"-应取小一些!一般取$%$.’$%/%.%0%0评价函数将染色体上表示的各权值分.%0+,训练神经网络的权值和结构配到给定的网络结构中!网络以训练集样本为输如图.所示!采用三层12网络!34为网络输入输出!运行后返回误差平方和的倒数作为染色入!56为隐层输出!78为网络输出94:$!.%%%%;)体的评价函数!即6:$!.%%%!-)8:$!.%%%!<=%输入层与隐层之间.:.974409&=T6:4Z.6Z]6=[的输出权值为>隐层与输出层之间的权值为64!UU4:.6:$586%.%0%/初始化

8、群体在12算法中!常采用区间bZ.!.