资源描述：
《基于SVM的中文文本分类算法_冀胜利.pdf》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。
1、第22卷第7期重庆工学院学报(自然科学)2008年7月Vol.22No.7JournalofChongqingInstituteofTechnology(NaturalScience)Jul.2008X基于SVM的中文文本分类算法冀胜利,李波(重庆工学院电子信息与自动化学院,重庆400050)摘要:提出了一种基于支持向量机的中文文本分类算法,介绍了文本分类过程中的文本表示、特征提取和SVM算法等关键技术.最后进行了实验和分析,由实验结果可以看出,该方法在精确率和召回率等方面能够达到比较好的效果.关键词:支持向量机;特征提取;文本分类中图分类号:TP311文献标识码:
2、A文章编号:1671-0924(2008)07-0084-04ChineseTextCategorizationAlgorithmBasedonSVMJISheng-li,LIBo(SchoolofElectronicInformationandAutomation,ChongqingInstituteofTechnology,Chongqing400050,China)Abstract:AChinesetextcategorizationalgorithmbasedonSVMispresented,anditskeytechniquesintheprocessof
3、textorganizing-textexpression,featureselection,SVMalgorithm,etc.areintroduced.Theexperimentsshowthatitworkswellinprecisionrate,recallrate,etc.Keywords:supportvectormachine;featureselection;textcategorization文本分类属于有指导的机器学习,是指在给SRM),具有高泛化性能的通用学习机器.这是一种定的分类系统下,根据文本的内容或属性,将大量专门研究小样本情况下机器学习
4、规律的理论,这文本归到一个或多个类别的过程.它是为降低查种理论具有坚实的统计学理论基础,并在实际应询时间,提高个性化搜索质量,方便用户快速有效用中显示了独特的优越性,如手写数字识别(hand-[2]获取文本而产生的文本处理技术.20世纪90年代writtendigitrecognition)、文本分类等.以来,众多的统计方法和机器学习方法应用于文本分类.现有的分类方法主要有:向量空间模型1文本分类的预处理(VectorSpaceModel,VSM)、决策树(DecisionTree),Rocchio,KNN和支持向量机(SupportVectorMa-1.1文本分类
5、的任务描述[1]chine,SVM)等.SVM是Vapnik等人根据统计学一般来说,文本分类系统的任务是:在给定的理论(StatisticalLearningTheory,SLT)提出的一种基分类体系下,根据文本的内容或属性自动的确定于结构风险最小化原理(structuralriskminimization,文本的类别.从另一个角度来看,文本分类是一个X收稿日期:2008-04-28基金项目:重庆市自然科学基金资助项目(CSTC,2006BB2084).作者简介:冀胜利(1981)),男,山东鄄城人,硕士研究生,主要从事测试与控制技术研究;李波,男,博士,教授,主要
6、从事信息安全与计算机网络研究.冀胜利,等:基于SVM的中文文本分类算法85映射过程,即将未知类别的文本映射到已有的类在中文文本分类中使用较多的特征抽取方法别中.该映射可以是一对一,也可以是一对多.文包括文档频率(DocumentFrequency,DF)、互信息本分类中的映射规则是系统根据给定的训练样本(MutualInformation,MI)、信息增益(Information类别信息,分析总结并结合相应算法而得出的判2Gain,IG)和V统计等.本研究采用DF作为特征抽别式或判别规则,然后再应用于新的待测文本,根取的方法.为了减少信息的噪声,对文本文档进行据总结
7、出的判别式或判别规则,确定其类别.基于处理:¹对文本分词以后,取出文档中包含的所有SVM的中文文本分类模型如图1所示.字词;º除去停用词,比如的、了等;»统计每个字词出现的频率;¼根据需要过滤出现频率较高的那部分字词和出现频率较低的那部分词;½余下的词作为特征项(term)进行唯一标注.由于DF具有相当于训练语料规模的线性计算复杂度,因此能够容易被用于大规模语料统计.在对文档进行处理时,过滤了出现频率较低的那图1基于SVM的中文文本分类模型部分词,但在信息检索(InformationRetrieval,IR)研1.2文本表示究中通常认为DF值低的特征词相对于DF
