一种基于混合重取样策略的非均衡数据集分类算法.pdf

《一种基于混合重取样策略的非均衡数据集分类算法.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、ＣＮ４３－１２５８／ＴＰ计算机工程与科学２０１２年第３４卷第１０期ＩＳＳＮ１００７－１３０ＸＣＯＭＰＵＴＥＲＥＮＧＩＮＥＥＲＩＮＧ＆ＳＣＩＥＮＣＥＶｏｌ．３４，Ｎｏ．１０，２０１２文章编号：１００７－１３０Ｘ（２０１２）１０－０１２８－０７＊一种基于混合重取样策略的非均衡数据集分类算法ＡＮｏｖｅｌＣｌａｓｓｉｆｉｃａｔｉｏｎＡｌｇｏｒｉｔｈｍｆｏｒＩｍｂａｌａｎｃｅｄＤａｔａｓｅｔｓＢａｓｅｄｏｎＨｙｂｒｉｄＲｅｓａｍｐｌｉｎｇＳｔｒａｔｅｇｙ谷琼，袁磊，宁彬，吴钊，华丽，李文新ＧＵＱｉｏｎｇ，ＹＵＡＮＬｅｉ，ＮＩＮＧＢｉｎ，ＷＵ

2、Ｚｈａｏ，ＨＵＡＬｉ，ＬＩＷｅｎ－ｘｉｎ（湖北文理学院数学与计算机科学学院，湖北襄阳４４１０５３）（ＳｃｈｏｏｌｏｆＭａｔｈｅｍａｔｉｃｓａｎｄＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ，ＨｕｂｅｉＵｎｉｖｅｒｓｉｔｙｏｆＡｒｔｓａｎｄＳｃｉｅｎｃｅ，Ｘｉａｎｇｙａｎｇ４４１０５３，Ｃｈｉｎａ）摘要：非均衡数据是分类中的常见问题，当一类实例远远多于另一类实例，则代表类非均衡，真实世界的分类问题存在很多类别非均衡的情况并得到众多专家学者的重视，非均衡数据的分类问题已成为数据挖掘和模式识别领域中新的研究热点，是对传统分类算法的重大挑战。本文提出了

3、一种新型重取样算法，采用改进的ＳＭＯＴＥ算法对少数类数据进行过取样，产生新的少数类样本，使类之间数据量基本均衡，然后再根据ＳＭＯ算法的特点，提出使用聚类的数据欠取样方法，删除冗余或噪音数据。通过对数据集的过取样和清理之后，一些有用的样本被保留下来，减少了数据集规模，增强支持向量机训练执行的效率。实验结果表明，该方法在保持整体分类性能的情况下可以有效地提高少数类的分类精度。Ａｂｓｔｒａｃｔ：Ｉｍｂａｌａｎｃｅｄｄａｔａｉｓａｃｏｍｍｏｎｐｒｏｂｌｅｍｉｎｃｌａｓｓｉｆｉｃａｔｉｏｎ，ｔｈｉｓｉｓｓｕｅｏｃｃｕｒｓｗｈｅｎｔｈｅｎｕｍ

4、ｂｅｒｏｆｅｘａｍｐｌｅｓｏｆｏｎｅｃｌａｓｓｉｓｍｕｃｈｓｍａｌｌｅｒｔｈａｎｔｈｅｏｎｅｓｏｆｔｈｅｏｔｈｅｒｃｌａｓｓｅｓ．Ｉｔｓｐｒｅｓｅｎｃｅｉｎｍａｎｙｒｅａｌ－ｗｏｒｌｄａｐｐｌｉｃａｔｉｏｎｓｈａｓａｔｔｒａｃｔｅｄａｇｒｏｗｔｈｏｆａｔｔｅｎｔｉｏｎｆｒｏｍｒｅｓｅａｒｃｈｅｒｓ．Ｃｌａｓｓｉｆｉｅｒｌｅａｒｎｉｎｇｗｉｔｈｄａｔａ－ｓｅｔｓｔｈａｔｓｕｆｆｅｒｆｒｏｍｉｍｂａｌａｎｃｅｄｃｌａｓｓｄｉｓｔｒｉｂｕｔｉｏｎｓｉｓａｃｈａｌｌｅｎｇｉｎｇｐｒｏｂｌｅｍｉｎｄａｔａｍｉｎｉｎｇａｎｄｐａｔｔｅｒｎｒｅ

5、ｃｏｇ－ｎｉｔｉｏｎｃｏｍｍｕｎｉｔｙ．Ｉｎｔｈｉｓｐａｐｅｒ，ｗｅｐｒｅｓｅｎｔａｎｏｖｅｌｐｒｅｐｒｏｃｅｓｓｉｎｇａｐｐｒｏａｃｈｔｈａｔｃｏｍｂｉｎｅｓｕｎｓｕｐｅｒｖｉｓｅｄｃｌｕｓｔｅｒｉｎｇａｎｄｓｕｐｅｒｖｉｓｅｄｌｅａｒｎｉｎｇｔｏｈａｎｄｌｅｉｍｂａｌａｎｃｅｄｄａｔａｓｅｔａｎｄａｐｐｌｙｔｈｉｓｌｅａｒｎｉｎｇａｐｐｒｏａｃｈｆｏｒｔｒａｉｎｉｎｇＳＭＯ．Ｔｈｉｓｐｒｏｐｏｓｅｄａｌｇｏｒｉｔｈｍｌｅｓｓｅｎｔｈｅｉｍｂａｌａｎｃｅｒａｔｉｏｎｔｈｒｏｕｇｈｔｈｅｃｏｎｓｔｒｕｃｔｉｏｎｏｆｎｅｗｓａｍｐｌ

6、ｅｓｕｓｉｎｇｔｈｅｉｍｐｒｏｖｅｄｓｙｎｔｈｅｔｉｃｍｉｎｏｒｉｔｙｏｖｅｒｓａｍｐｌｉｎｇｔｅｃｈｎｉｑｕｅａｎｄｔｈｅｎｃｌｕｓｔｅｒｉｎｇｆｏｒｂｏｔｈｃｌａｓ－ｓｅｓｔｏｄｅｌｅｔｅｒｅｄｕｎｄａｎｔｏｒｎｏｉｓｙｓａｍｐｌｅｓ．Ｔｈｕｓ，ｔｈｅｕｓｅｆｕｌｓａｍｐｌｅｓａｒｅｒｅｍａｉｎｅｄ，ｉｍｐｒｏｖｉｎｇｔｈｅｃｏｍｐｕ－ｔａｔｉｏｎａｌｅｆｆｉｃｉｅｎｃｙ．Ｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｅｐｒｏｐｏｓｅｄａｐｐｒｏａｃｈｃａｎｅｆｆｅｃｔｉｖｅｌｙｉｍｐｒｏｖｅｔｈｅｃｌａｓｓｉｆｉ

7、ｃａｔｉｏｎａｃｃｕｒａｃｙｏｆｔｈｅｍｉｎｏｒｉｔｙｃｌａｓｓｅｓ，ｗｈｉｌｅｍａｉｎｔａｉｎｉｎｇｔｈｅｏｖｅｒａｌｌｃｌａｓｓｉｆｉｃａｔｉｏｎｐｅｒｆｏｒｍａｎｃｅ．关键词：分类；非均衡数据集；预处理；混合重取样；ＳＭＯＴＥ；聚类Ｋｅｙｗｏｒｄｓ：ｃｌａｓｓｉｆｉｃａｔｉｏｎ；ｉｍｂａｌａｎｃｅｄｄａｔａｓｅｔ；ｐｒｅｐｒｏｃｅｓｓｉｎｇ；ｈｙｂｒｉｄｒｅｓａｍｐｌｉｎｇ；ＳＭＯＴＥ；ｃｌｕｓｔｅｒｉｎｇｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．１００７－１３０Ｘ．２０１２．１０．０２６中图分类号：ＴＰ３０１．６文献标识码：Ａ

8、本数据个数远远多于另一类样本数据个数的分类［１］１引言学习问题，现在很多实际应用领域如故障诊断、［２］［３］［４］异常检测、医疗诊断、漏油监测等分类预测非均衡数据集的分类是指分类实例中某类样中均面临这样的问题，已逐渐成为机器学习和模式＊收稿日期：２