基于粗糙集与支持向量机的web文本分类

《基于粗糙集与支持向量机的web文本分类》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、2009年第3期漳州师范学院学报(自然科学版)No.3.2009年（总第65期）JournalofZhangzhouNormalUniversity（Nat.Sci.）GeneralNo.65文章编号:1008-7826(2009)03-0037-06基于粗糙集与支持向量机的Web文本分类王娟（漳州师范学院计算机科学与工程系，福建漳州363000）摘要:Web文本分类是Web数据挖掘的一个重要研究方向，它是在通过经验数据训练得到的分类体系下，根据网页的文本内容自动判别网页类别的过程，本文提出一种综合粗糙集与支持向量

2、机的Web文本分类模型，利用粗糙集的属性约简方法，减少支持向量机训练数据的维数，提高Web文本分类的性能与效率.关键词:粗糙集；支持向量机；Web文本分类中图分类号：TP18文献标识码：AWebTextClassificationBasedonRoughSetandSupportVectorMachineWANGJuan(DepartmentofComputerScienceandEngineering,ZhangzhouNormalUniversity,Zhangzhou,Fujian363000,China)A

3、bstract:TheWebtextclassificationisanimportantresearchdirectioninWebdatamining.Itobtainsaclassifiedsystembytrainingknowledgedata,thenaccordingtohomepagetextcontentautomaticdistincthomepagecategorybyusingthissystem.ThisarticleadvancesaWebtextclassificationmodelw

4、hichsynthesisroughsetandsupportvectormachine.Usingtheroughset’sattributereductionmethodtoreducethedimensionofsupportvectormachine’strainingdata,thenenhancestheWebtextclassification’sperformanceandefficiency.Keywords:RoughSet;SupportVectorMachine;Webtextclassif

5、ication1引言Web文本分类是Web数据挖掘的一个关键组成部分，它是在通过经验数据训练得到的分类体系下，根据网页的文本内容自动判别网页类别的过程.目前Web文本分类算法及其应用已有大量的研究，其中比[1]较成熟的分类算法有朴素贝叶斯(NaiveBayes)方法、决策树(DecisionTree)方法、k最近邻参照(kNN)方[2][3]法、向量空间型（VSM）方法和支持向量机法（SupportVectorMachine，SVM）等.由Vapnik等研究学者提出的支持向量机是一种高效的分类识别方法，它是建立在结

6、构风险最小化原则以及VC维理论基础上的一种有限样本统计学习理论，经过一些学者的试验比较，SVM具有比其它方法更好的性能.但是SVM不能对所处理的信息空间维数进行简化，因此当输入空间的维数较大时，往往会导致SVM训练时间过长，影响分类效果.粗糙集（RoughSet，RS）理论是波兰数学家Z.Pawlak于1982年提出的一种处理模糊和不确定信息的新型数据分析工具，属性约简是该理论的一大核心，可以剔除知识库中的冗余知识，简化判断规则，而这正好弥补SVM算法的不足之处.综合SVM与RS理论的优缺点，本文提出一种将两者相结

7、合的方法，以RS作为前置系统，利用该理论对大量的数据进行知识约简的预处理，消除冗余信息，减少SVM的训练数据；再根据预处理后的信收稿日期:2008-12-22作者简介:王娟(1978-),女,山西省黎城县人,硕士,讲师.38漳州师范学院学报（自然科学版）2009年息结构，形成SVM数据分类系统，提高处理的效率.2基于粗糙集和支持向量机的Web文本分类模型图1给出了基于粗糙集与支持向量机的Web文本分类的模型，整个模型由文本预处理、粗糙集属性约简和SVM分类三部分构成.Web文本经过预处理、特征选择和权值的离散化处理

8、后，我们就可以构造决策表，用粗糙集的方法对决策表进行属性约简去除冗余属性和冲突的样本，同时又不损失有效信息，最后使用SVM的方法进行训练与测试.3文本向量表示本文用向量空间模型（VSM）来表示文本，表示如下：Vd()(,;,;;,;;,)=twtw??twtw,其中t为词条，w为词条对应的权重.在计算词条的权重1122kknnii时，考虑到词条在文档中的位置