基于粗糙集建模的支持向量学习

《基于粗糙集建模的支持向量学习》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、SupportVectorLearningbasedonRoughSetModelingGangNiuSubmittedtotheGraduateSchoolofNanjingUniversityinpartialfulfillmentofrequirementsforthedegreeofMasterofEngineering．SupervisedbyAssociateProfessorLinShangMajoringinComputerAppliedTechnologyDepartmentofComputer

2、ScienceandTechnologyNanjingUniversity，Nanjing，P．R．ChinaMay,2010MIIlUllUlUlIIIIIIIIIlY2371851鱼室叁堂堑窒生垒些垒耋皇塞垄羹摘要函数的支持向量估计方法被众多机器学习和模式识别研究者认为是现代机器学习最为成功的技术之一。支持向量机(SVM)试图在核诱导特征空间内寻找一个超平面，使得不同类别的数据样本点被尽可能的分开。根据Vapnik．Chervonenkis的统计学习理论，函数的支持向量估计方法本质上最小化了泛化误差的一个渐进

3、上界。因此，SVM算法家族的泛化性能具有深刻的理论保证。另一方面，粗糙集是一个处理模糊和不确定性的有力工具，它使用上下近似的概念来逼近一个定义在离散拓扑上的有限集，在许多领域有着广泛的应用。本文主要研究基于粗糙集建模的支持向量学习。首先是基于roughmargin的支持向量学习，该方法的本质是对数据集中的孤立点分布进行粗糙集建模，它显式的考虑了孤独点分布，所以泛化性能有所提高。其次是粗糙域描述模型，该方法使用特征空间中的两个同心闭球当做连续拓扑上的有限集的上下近似，并随着样本外扩展，把有限集上的描述结果扩展到全样

4、本空间。最后是粗糙支持向量判别方法，该方法并不对孤立点进行显式的建模，而是对可=1和y=一1两个类进行粗糙集建模，并且考虑了数据集迁移，从而推广了基于roughmargin(勾支持向量分类方法。关键词：支持向量学习，连续粗糙集，样本外扩展，数据域描述AbstractSupportvectorestimationoffunctionshasbeenconsideredasoneofthemostsuccessfultechniquesofthemodernmachinelearningbymanyandmanyre

5、—searchersinthemachinelearningandpatternrecognitionsocieties．Givenatrain—ingset，thesupportvectormachines(SVMs)trytOfindahyperplaneinthekernel—inducedfeaturespace，whichcouldseparatethedatasamplesindifferentclassesasfaraspossible．Inaccordancewiththestatisticall

6、earningtheoryofVapnik-Chervonenkis，thegeneralizationperformanceoftheSVMalgorithmfamilyhasprofoundtheoreticalfoundations，sinceitminimizesallasymptoticupperboundofthegeneralizationerrorinessence．Ontheotherhand，theroughset，whichusestheconceptsoftheloweranduppera

7、pproximationtOapproximateafinitesetdefinedonadiscretetopology,isapowerfultooltOcopewiththevaguenessanduncertainty,andhaswidelyapplicationsinseveralfields．Thisthesisfocusesonthesupportvectorlearningbasedonroughsetmodel．ing．Firstly，weintroducetheroughmarginbase

8、dsupportvectorlearning，whichmodelsinnaturethedistributionofoutliersinthedataset．Afterexplicitlyconsid．efingthesedistributions，itsgeneralizationperformanceisimproved．Thesecondtopicistherou