试论bp神经网络的代价敏感学习算法研究

《试论bp神经网络的代价敏感学习算法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、华中科技大学硕士学位论文BP神经网络的代价敏感学习算法研究姓名：李祖定申请学位级别：硕士专业：计算机应用技术指导教师：马光志20090528华中科技大学硕士学位论文摘要误差反向传播神经网络(BPNN)具有很强的鲁棒性和容错性，作为分类模型在医学辅助诊断中得到广泛的应用。但是，BPNN是一种代价不敏感的分类模型。一种类别误分为另一种类别的代价可能极其不同，若直接将传统BPNN应用到医学辅助诊断等代价敏感的领域，当误分类或误诊时有可能付出惨重的治疗代价。将传统的BPNN改造为代价敏感的有多种途径，最吸引人的途径是把其分类误差函数改变为代价敏感的，使其通过原始样本集和代价敏感矩阵能够学习误分类代

2、价。分析了先前提出的代价敏感的BPNN构造方法，指出此前提出的基于最小误分类代的方法在分类精度方面的不足。考虑到当网络正确分类时，如果向BPNN反馈分类代价，会降低BPNN对当前事例的分类精度。针对上述不足，提出了以期望误分类代价函数作为代价敏感BPNN的分类误差函数，并推导了误分类代价反向传播调整学习参数公式，得到一个新的代价敏感BP神经网络学习算法。为了验证算法，开发了基于.NET的实验平台。以交互式方式实现了异构数据的获取、数据预处理和数据降维等操作，可视化地显示代价敏感的BPNN的学习过程和学习结果。使用美国加州大学欧文分校(UCI)的8个公共数据集和2个真实医学数据集，与前人的代

3、价敏感BPNN学习算法进行了比较。实验证明提出的新算法在期望误分类代价、反馈率、准确度、F-测度和代价曲线等评价指标下都有较好的表现。关键词：反向传播神经网络，代价敏感，期望误分类代价I华中科技大学硕士学位论文AbstractForgoodrobustnessanderror-toleranceoferrorback-propagationneuralnetwork(BPNN),ithasbeenusedwidelyasclassificationmodelinmedicaldiagnosis.However,BPNNiscost-insensitiveclassifiermodel,an

4、diftheclassifierhasbeenusedincost-sensitivefields,suchasmedicaldiagnosis,theclassifiershallgeneratemassmisclassificationcost.OneofthemostattractiveapproachestomakestandardBPNNcost-sensitiveisrevisingitserrorfunctionsothatitcanlearnmisclassificationcostthroughtrainingsamplesandcost-matrix.Weanalyze

5、thelimitationofKukar'scost-sensitiveBPNNalgorithmwhichisbasedonminimummisclassificationcosterrorfunction.IfBPNNcorrectlymakeaclassification,andanycostexceptthedistancebetweentherealvalueofcaseandtheoutputvalueofneuronhavebeenback-propagatedintonetwork,theclassifyingabilityfortheclassoftheBPNNshall

6、bedecreased.Toovercomethelimitation,weproposeanewcost-sensitiveBPNNlearningalgorithmwhichisbasedonexpectedmisclassificationcosterrorfunction.Toverifythenewalgorithm,wedesignanddevelopanexperimentalplatformbasedon.net.Thesoftwarecaninteractivelyreaddifferentformatdata,pre-processdatasetanddecreaset

7、hedimensionofdataset.Atthesametime,thesystemcangraphicallydisplaythelearningprocessofcost-sensitiveBPneuralnetworkandtheresultsofthenetwork.WitheightUCI(UniversityofCaliforniaIrvine)datasetsandtworealmedicaldatas