资源描述：
《并行学习神经网络集成方法new》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、第28卷第3期计算机学报Vol.28No.32005年3月CHINESEJOURNALOFCOMPUTERSMar.2005并行学习神经网络集成方法1),2)1)1)王正群陈世福陈兆乾1)(南京大学计算机软件新技术国家重点实验室南京210093)2)(扬州大学信息工程学院扬州225009)摘要该文分析了神经网络集成中成员神经网络的泛化误差、成员神经网络之间的差异度对神经网络集成泛化误差的影响,提出了一种并行学习神经网络集成方法;对参与集成的成员神经网络,给出了一种并行训练方法,不仅满足了成员网络本身的精度要求,还满足了
2、它与其余成员网络的差异性要求;另外,给出了一种并行确定集成成员神经网络权重方法.实验结果表明,使用该文的成员神经网络训练方法、成员神经网络集成方法能够构建有效的神经网络集成系统.关键词并行学习;神经网络;神经网络集成;机器学习;泛化误差中图法分类号TP18AParallelLearningApproachforNeuralNetworkEnsemble1),2)1)1)WANGZheng2QunCHENShi2FuCHENZhao2Qian1(StateKeyLaboratoryforNovelSoftwareTech
3、nology,NanjingUniversity,Nanjing210093)2(SchoolofInformationEngineering,YangzhouUniversity,Yangzhou225009)AbstractAftertherelationshipamongthegeneralizationerrorsoftheneuralnetworksensem2ble,thegeneralizationerrorandthediversityofthecomponentneuralnetworkisanaly
4、zed.AcomponentneuralnetworksparalleltrainedalgorithmPLAisproposed,whichencouragescom2ponentneuralnetworktolearnfromexpectedgoalandtheothers,soallcomponentneuralnet2worksaretrainedsimultaneouslyandinteractively.Inthestageofcombiningcomponentneuralnetworks,aparall
5、elweightoptimalapproachGASEN2eisprovidedbyexpandingGASENpro2posedbyZhouetal.,whichassignsweightforeverycomponentneuralnetworkandbiasfortheirensemble.Experimentresultsshowthataneuralnetworksensemblesystemisefficientlycon2structedbyPLAandGASEN2e.Keywordsparallelle
6、arning;neuralnetworks;neuralnetworkensemble;machinelearning;generalizationerror[1]在此示例下的输出共同决定.对神经网络集成实1引言现方法的研究主要集中在两个方面,即如何生成集成中的成员网络以及怎样将多个神经网络的结论进神经网络集成(neuralnetworkensemble)是用行结合.有限个神经网络对同一个问题进行学习,集成在输在生成集成个体网络(成员网络)方面,最重要[2][3]入示例下的输出由构成神经网络集成的各神经网络的技术是Bo
7、osting和Bagging.应用Boosting收稿日期:2003210208;修改稿收到日期:2004212223.本课题得到国家自然科学基金(60273033)和江苏省自然科学基金重点项目(BK2003067)资助.王正群,男,1965年生,博士后,副教授,研究方向为机器学习、神经网络、模式识别等.E2mail:yzwzq@yzcn.net.陈世福,男,1938年生,教授,博士生导师,主要研究方向为机器学习、知识工程、分布式人工智能以及图像处理.陈兆乾,女,1940年生,教授,博士生导师,主要研究领域为机器学习、
8、知识工程、神经网络.3期王正群等:并行学习神经网络集成方法403技术,可以产生一系列个体神经网络,各网络的训练异度越大),越有利于神经网络集成泛化误差的集决定于在其之前产生的网络的表现,被已有网络降低.错误判定的示例以较大的概论出现在新网络的训本文进一步分析了网络集成中成员网络的泛化练集中.这样,新网络将能够处理对已有网络来说很误
