贝叶斯分类器集成的增量学习方法

《贝叶斯分类器集成的增量学习方法》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、万方数据／：第28卷第5期北京理工大学学报V01．28No．52008年5月TransactionsofBeijingInstituteofTechnologyMay2008贝叶斯分类器集成的增量学习方法张全新，郑建军2，牛振东1，原达3(1．北京理工大学计算机科学技术学院，北京100081，2．中国人民解放军63961部队，北京100012，3．山东工商学院信息与电子工程学院，山东，烟台264005)摘要：针对基于决策树和神经网络的增量学习算法的过量匹配和分类精度有限的缺点，提出了一种基于贝叶斯分类器集成的增量学习方法．综合朴素贝叶斯的增量分类和集成的增量学习方法，

2、采用随机属性选择训练初始SBC(simpleBayesianclassifiers)，通过判断是否带有类别标签，将增量样本自动分组，并利用遗传算法对结果进行优化．实验结果表明，贝叶斯分类器集成的增量学习方法有效．关键词：贝叶斯分类器；增量学习}遗传算法中图分类号：TP181文献标识码：A文章编号：1001一0645(2008)05一0397一04IncrementLearningAlgorithmBasedonBayesianClassifierIntegrationZHANGQuan-xinl，ZHENGJian-jun2，NIUZhen-don91，YUANDa3

3、(1．SchoolofComputerScienceandTechnology，BeijingInstituteofTechnology，Beijing100081，China2．Unit63961，PLA，Beijing100012，China3．SchoolofInformationandElectronicEngineering，ShandongInstituteofBusinessandTechnology，Yantai，Shandong264005，China)Abstract：AnincrementlearningalgorithmbasedonBayes

4、ianclassifierintegrationisproposedtoovercometheshortcomings，overloadedmatchingandlimitedclassifyingprecisionoftheincrementlearningalgorithmbasedondecision-makingtreeonaneuralnetwork．TheincrementclassifierofsimpleBayesianandintegratedincrementlearningalgorithmarecombined．TheSBC(simpleBay

5、esianclassifiers)istrainedbyrandompropertyandtheincrementsamplesareclassifiedautomaticallybythetag．TheresultsareoptimizedbyGA(geneticalgorithm)．TheefficiencyoftheincrementlearningalgorithmbasedonBayesianclassifierintegrationhasbeenconfirmedbyexperimentation．Keywords：Bayesianclassifier；i

6、ncrementlearning；geneticalgorithm基于决策树和神经网络的增量学习算法存在两方面的缺点：①由于缺乏对整个样本集期望风险的控制，算法易对训练数据产生过量匹配；②由于缺乏对训练数据有选择的遗忘淘汰机制，在很大程度上影响了分类精度．而经典的SVM(supportvectormachine)学习算法不直接支持增量式学习．相对而言，贝叶斯推理模型以坚实的数学基础和丰富的概率表达能力，尤其是能充分利用先验信息的特性，成为增量学习中的最佳选择模型．作者提出一种基于贝叶斯分类器集成的增量学习方法，采用随机属性选择训练初始SBC(simpleBayesia

7、nclassifiers)，然后通过判断是否带有类别标签，将增量样本自动分组，针对不同组别，集成成员按不同顺序进行学习，并采用不同方式更新诸SBC的参数，最后经遗传算法优选得到集成的增量学习结果．收稿日期：2007—10—18基金项目：国家自然科学基金资助项目(60773053)

8、国家教育部跨世纪优秀人才培养计划项目(NCET-06-0161)作者简介：张全新(1974一)，男，博士后，讲师，E-mail：zhangqx@china．corn．c11．万方数据398北京理工大学学报第28卷1朴素贝叶斯的增量分类在贝叶斯网络分类中，简单有效的模型是朴素