基于粒子群算法的BP神经网络优化技术_张德慧

《基于粒子群算法的BP神经网络优化技术_张德慧》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、２０１５年５月计算机工程与设计Ｍａｙ２０１５第３６卷第５期ＣＯＭＰＵＴＥＲＥＮＧＩＮＥＥＲＩＮＧＡＮＤＤＥＳＩＧＮＶｏｌ．３６Ｎｏ．５基于粒子群算法的ＢＰ神经网络优化技术张德慧，张德育＋，刘清云，吕艳辉（沈阳理工大学信息科学与工程学院，辽宁沈阳１１０１５９）摘要：针对传统ＢＰ神经网络存在学习效率低、收敛速度慢和容易陷入局部极小值的问题，提出一种基于改进的ＰＳＯ来优化ＢＰ神经网络的方法。通过在ＰＳＯ算法中引入随机变化的加速常数来获得最优权值，对ＢＰ神经网络进行优化和训练，将优化的ＢＰ神经网络用于

2、遗传高血压患病年龄的预测中。实验结果表明，该方法较好地解决了传统ＢＰ神经网络易陷入局部极小值的问题，提高了算法的收敛速度和稳定性。关键词：ＢＰ神经网络；粒子群算法；改进；训练；预测中图法分类号：ＴＰ３９３文献标识号：Ａ文章编号：１０００－７０２４（２０１５）０５－１３２１－０６ｄｏｉ：１０．１６２０８／ｊ．ｉｓｓｎ１０００－７０２４．２０１５．０５．０４０ＢＰｎｅｕｒａｌｎｅｔｗｏｒｋｏｐｔｉｍｉｚｅｄｂｙｉｍｐｒｏｖｅｄＰＳＯ＋，ＬＩＵＱｉｎｇ－ｙｕｎ，ＬＹａｎ－ｈｕｉＺＨＡＮＧＤｅ－ｈｕｉ，ＺＨＡＮＧＤｅ－ｙｕ（ＳｃｈｏｏｌｏｆＩｎｆｏｒｍａｔｉｏｎＳｃｉｅｎｃｅａｎｄＥｎｇｉｎｅｅｒ

3、ｉｎｇ，ＳｈｅｎｙａｎｇＬｉｇｏｎｇＵｎｉｖｅｒｓｉｔｙ，Ｓｈｅｎｙａｎｇ１１０１５９，Ｃｈｉｎａ）Ａｂｓｔｒａｃｔ：ＡｉｍｉｎｇａｔｔｈｅｐｒｏｂｌｅｍｓｔｈａｔｔｒａｄｉｔｉｏｎａｌＢＰｎｅｕｒａｌｎｅｔｗｏｒｋｌｅａｒｎｉｎｇｉｓｉｎｅｆｆｉｃｉｅｎｔ，ｈａｓｓｌｏｗｃｏｎｖｅｒｇｅｎｃｅａｎｄｉｓｅａｓｙｔｏｆａｌｌｉｎｔｏｌｏｃａｌｍｉｎｉｍｕｍｖａｌｕｅ，ａｍｅｔｈｏｄｗｈｉｃｈｗａｓｂａｓｅｄｏｎｉｍｐｒｏｖｅｄＰＳＯｏｐｔｉｍｉｚｉｎｇｔｈｅＢＰｎｅｕｒａｌｎｅｔｗｏｒｋｗａｓｐｒｏｐｏｓｅｄ．Ｂｙｉｎｔｒｏｄｕｃｉｎｇｔｈｅｒａｎｄｏｍｖａｒｉａｔｉｏｎａｃｃｅｌｅｒａｔｉ

4、ｏｎｃｏｎｓｔａｎｔｉｎｔｈｅＰＳＯａｌｇｏｒｉｔｈｍ，ｔｈｅｏｐｔｉｍａｌｗｅｉｇｈｔｓｗｅｒｅｏｂｔａｉｎｅｄ．ＡｎｄｔｈｅｎｔｈｅＢＰｎｅｕｒａｌｎｅｔｗｏｒｋｗａｓｏｐｔｉｍｉｚｅｄａｎｄｔｒａｉｎｅｄｗｈｉｃｈｗａｓｕｓｅｄｔｏｆｏｒｅｃａｓｔｇｅｎｅｔｉｃｈｙｐｅｒｔｅｎｓｉｏｎｉｎａｇｅ．ＴｈｅｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｅｏｐｔｉｍｉｚｅｄＢＰｎｅｕｒａｌｎｅｔｗｏｒｋｓｏｌｖｅｓｔｈｅｐｒｏｂｌｅｍｏｆｅａｓｉｌｙｔｒａｐｐｉｎｇｉｎｔｏｌｏｃａｌｍｉｎｉｍｕｍ．Ａｔｔｈｅｓａｍｅｔｉｍｅ，ｔｈｅｍｅｔｈｏｄｉｍｐｒｏｖｅｓｔｈｅｓｐｅｅｄａｎ

5、ｄｓｔａｂｉｌｉｔｙｏｆｔｈｅｃｏｎｖｅｒｇｅｎｃｅｏｆｔｈｅａｌｇｏｒｉｔｈｍ．Ｋｅｙｗｏｒｄｓ：ＢＰｎｅｕｒａｌｎｅｔｗｏｒｋ；ｐａｒｔｉｃｌｅｓｗａｒｍｏｐｔｉｍｉｚａｔｉｏｎ；ｉｍｐｒｏｖｅｍｅｎｔ；ｔｒａｉｎｉｎｇ；ｆｏｒｅｃａｓｔ点，研究者们给出了不同的改进方法。如文献［５］采用改０引言进的ＢＰ神经网络对银行资金的早期风险给予警告，其改进ＢＰ神经网络在预测领域的研究越来越广泛、越来越深方法包括利用ｏｌｍｏｇｏｒｏｖ定理和试凑法来确定隐含层的节［１］。例如：文献［２］采用入，并且取得了较好的应用效果点数；在原Ｓｉｇｍｏｉｄ函数基础上加入常数项来构造转移函ＢＰ神经网络对临界热熔进行预

6、测，构建了新型的神经网络数；增加动量项，动量因子定义在０与１之间；根据权值模型，具有很快的收敛速度并且解决了非线性问题；文献调节情况来改变学习速率等。上述改进方法使训练速度和［３］提出了一种ＩＶＬ－ＢＰ神经网络方法来预测短期供给贷款预测精度都有所提高，但仍避免不了易陷入局部极小值的的风险；文献［４］采用人工神经网络模型预测麻醉患者所问题。文献［６］提出了一种基于蚁群优化算法来优化ＢＰ用的药物总量，准确率在９５％以上，预测效果非常好。神经网络的方法，并用于预测煤炭的融化温度，蚁群算法ＢＰ神经网络存在易受初始权值、学习速率、动量因子是一种优化算法，当训练曲面出现多峰状态时，蚁群算法等参数影响，而

7、通过高强度的训练方式会产生“过拟合”通过信息素的调整，使ＢＰ神经网络跳出局部最优解，但是现象，影响网络的泛化能力的问题，因此多次训练的结果该方法的训练速度并没有得到明显提高。文献［７］采用遗相差很大，有时甚至不会收敛。此外，收敛速度缓慢和易传算法来优化ＢＰ神经网络，并用于预测工厂电流功率。遗陷入局部极小值也是ＢＰ神经网络的常见缺陷，针对这一传算法是一种具有全局优化能力的群组优化算法，能够提收稿日期：２０１４－