自适应模糊支持向量机算法研究

《自适应模糊支持向量机算法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、ComputerEngineeringandApplications计算机工程与应用2010，46（25）191自适应模糊支持向量机算法研究陈家德，吴小俊CHENJia-de，WUXiao-jun江南大学信息工程学院，江苏无锡214122SchoolofInformationTechnology，JiangnanUniversity，Wuxi，Jiangsu214122，ChinaE-mail：chjd81@163.comCHENJia-de，WUXiao-jun.Studyonadaptivefuzzysu

2、pportvectormachinealgorithm.ComputerEngineeringandAp-plications，2010，46（25）：191-194.Abstract：Theadvantageofakernelmethodoftendependscriticallyonaproperchoiceofthekernelfunction.Apromisingapproachistolearnthekernelfromdataautomatically.Inthispaper，anovelmeth

3、odisproposedforlearningthekernelma-trixbasedonmaximizingaclassseparabilitycriterionthatissimilartothoseusedbyLinearDiscriminantAnalysis（LDA）andKernelFisherDiscriminant（KFD）.ThispaperproposesthisapproachwhenFSVMisusedformulticlassificationtask.Andtheresultso

4、fexperimentsonfacedatasetshowsthatthemethodisfeasible.Keywords：kernellearning；SupportVectorMachine（SVM）；FuzzySupportVectorMachine（FSVM）；Fisherdiscriminantcriterion摘要：一个有效的核方法通常取决于选择一个合适的核函数。目前研究核方法的热点是从数据中自动地进行核学习。提出基于最优分类标准的核学习方法，这个标准类似于线性鉴别分析和核Fisher判别式。并

5、把此算法应用于模糊支持向量机多类分类器设计上，在ORL人脸数据集和Iris数据集上的实验验证了该算法的可行性。关键词：核学习；支持向量机；模糊支持向量机；Fisher判别准则DOI：10.3778/j.issn.1002-8331.2010.25.056文章编号：1002-8331（2010）25-0191-04文献标识码：Ａ中图分类号：TP391.41引言学习方法。由于所使用的都是有限的数据集，因此可以用数支持向量机方法是近几年发展起来的基于统计学习的机据集学习得到的核矩阵代替相应的核方法。不同的核矩阵学[

6、1]习方法已经提出来很多，主要有基于核校准的最优化方法[4]，器学习新方法，在解决一些小样本等实际问题时，具有很强基于校准的半正定规化（SDP）[5]，梯度下降算法[6]等等。本文的泛化能力。支持向量机具有完美的数学形式、直观的几何解释和良好的泛化能力，解决了模型选择与欠学习、过学习问研究基于最优分类标准的自适应核学习方法，而这种标准类似于线性鉴别分析（LDA）[7]和KFD[8]。核函数得到的矩阵通题以及非线性问题，避免了局部最优解，有效地克服了“维数灾难”，且人为设定的参数少，便于使用，已经成功地应用于许

7、过学习得到最优核矩阵，并把此矩阵应用在模糊支持向量机多分类问题。中，并以两组实验验证了该算法的可行性。SVM方法用来解决两类问题，当在解决多类问题时，当有一些输入样本不能被确切地归为某一类时，普通的SVM对2两类支持向量机此没有很好的解决办法。为此，ShigeoAbe等人提出了模糊在支持向量机训练时，多类问题被转化为n个两类问题支持向量机[2]，引入了模糊隶属度函数，一定程度上解决了传进行训练，对于每个两类问题，它的最大泛化能力的决策函数统的SVM的这个局限。也确定了。一个两类问题中，m维训练集被映射到l维（

8、l>m）核方法[3]提供了一个线性方法到非线性推广的训练方特征空间Z中。两类的最优分类超平面就用在特征空间中二法。模糊支持向量机（FSVM）、核主成分分析（KPCA）以及次优化问题加以求解。Fisher核判别式（KFD）都是较为成熟的一些核方法。然而这2.1最优超平面些方法都依赖于选择一个合适的核函数及相应的核函数参数SVM是从线性可分情况下的最优分类面发展来的，基本的选择。过去的几年中，也已经提出