基于GA、BP神经网络和多元回归的集成算法研究

《基于GA、BP神经网络和多元回归的集成算法研究》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第30卷第2期计算技术与自动化VoI．3O。NO．22011年6月ComputingTechnologyandAutomationJun．2011文章编号：1003—6199(2011)02-0089—07基于GA、BP神经网络和多元回归的集成算法研究陈诚，廖桂平，李锦卫，史晓慧(湖南农业大学农业信息研究所，湖南长沙430000)摘要：遗传算法、BP神经网络和多元回归是目前应用比较广泛的数据挖掘算法，它们各俱优点，同时也存在诸多无法避免的缺陷。该文在前三者的基础上，提出一种BP网络与多元回归模型融合的杂舍BP网络，并

2、采用遗传算法优化杂合BP网络的初始权值，有效地避免几种方法在单独使用时存在的缺陷。验证实验结果表明：新方法所建立的模型在收敛速度、精度和泛化能力上都明显优于GA、BP神经网络和多元回归．并且较当今比较热门的ELM、SVRKM和SVM也有较显著的改进。关键词：BP神经网络；多元回归；遗传算法；算法集成中图分类号：TP183文献标识码：AIntegrationAlgorithmBasedonGeneticAlgorithm，BPNeuralNetworkandMultipleRegressionsCHENCheng，LI

3、AOGui—ing，LIJin-wei，SHIXiao—hui(AgriculturalInformationInstituteofHunanAgriculturalUniversity，Changsha430000，China)Abstract：GeneticAIgorithm，BPneuralnetworkandmultipleregressionareusedwidelyindataminingalgorithms，eachofthemhavetheirbenefits．Simultaneously，theyh

4、avesomeinevitableflaws．Onthebasisofpreviousthree，Imadesomeimprovementsinthestructureofthem．First，IproposeahybridBPnetworkbasedontheintegrationofBPNetworkandmultipleregressionmodels．ThenIusedthehybridgeneticalgorithmtOoptimizetheinitialweightsofhybridBPnet—WOrk．

5、Inthatway，Ieffectivelyavoidtheinevitableflawswhentheyalone．Validationresultsshow，inconvergencespeedaccuracyandgeneralizationability，themodelofnewmethodsisbetterthanGeneticAlgorithm，BPneuralnetworkandmul-tipleregressions．Inaddition，themodelofnewmethodshassignifi

6、cantimprovementscomparedwithELM。SVRKMandSVM．Keywords：BPneuralnetwork；multipleregression；geneticalgorithms；algorithmintegration地挖掘出大量数据中隐含的内在规律，提炼出有用1引言的信息，从而为决策提供可靠的依据。遗传算法、BP神经网络和多元回归是数据挖近年来，随着“云”概念的普及和发展，当今社掘算法中应用较广泛的三种方法，在很长的一段时会的信息量越来越庞大，信息结构变得越来越复间内都是数据挖掘常

7、用的算法。然而，随着当今社杂，信息的表现形式已经呈现出从“信息库”向“信会信息量的急剧增大、信息结构的不断复杂化，它息云”靠拢的趋势，如何在“信息云”中发掘出准确们的缺陷也越来越明显：①遗传算法虽然能很快的有益的信息已经成为现今研究的热门问题，而数据接近最优解，但随后会在最优解附近左右摆动，收挖掘技术正是解决这一问题的最佳方法之一。在敛精度不高[1]。②BP神经网络的学习速度慢，容面对各种复杂数据时，数据挖掘技术能够方便快捷易陷入局部极值，在模拟线性关系时效果没有多元收稿日期：2O10一l1～23基金项目：湖南省研究

8、生科技创新基金项目(cx201OB28O)作者简介：；陈诚(1986一)，男，安徽蚌埠人，硕士研究生，研究方向：人工智能、信息处理(E—mail：lgpxf@yahoo．com．cn)，廖桂平(1964一)，男，教授，博士生导师，研究方向t农业信息技术。计算技术与自动化2011年6月线性回归理想。③多元线性回归模型的应用领域Z~j(2)一X器较