基于NSVM的核空间训练数据减少方法.pdf

《基于NSVM的核空间训练数据减少方法.pdf》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、第42卷第4期电子科技大学学报Vol.42No.42013年7月JournalofUniversityofElectronicScienceandTechnologyofChinaJul.2013基于NSVM的核空间训练数据减少方法王晓，刘小芳(四川理工学院计算机学院四川自贡643000)【摘要】针对核空间中大数据集的计算代价高问题，提出用NSVM方法减少分类器的训练数据。先用NSVM、核主成分分析(KPCA)和贪婪KPCA分别从全部训练数据中提取训练分类器的子集；再用子集训练分类器，并用训练和测试数据的错分率对分类结果进行评价

2、。在两个数据集和两种分类器中，用KPCA提取的子集训练的分类器的分类性能弱于NSVM和贪婪KPCA，但用贪婪KPCA提取的子集训练的分类器的泛化能力弱于NSVM。仿真结果表明，用NSVM方法提取的子集训练的分类器，不仅保证了分类器的泛化能力，也降低了分类算法的计算复杂度。关键词分类器;贪婪核主成分分析;核主成分分析;非线性支持向量机;支持向量;训练数据中图分类号TP391文献标志码Adoi:10.3969/j.issn.1001-0548.2013.04.012NonlinearSupportVectorMachineforTr

3、ainingDataReductioninKernelSpaceWANGXiaoandLIUXiao-fang(SchoolofComputerScience,SichuanUniversityofScienceandEngineeringZigongSichuan643000)AbstractAimingatthehighcomputationalcostissueforlargedatasetsinkernelspace,thenon-linearsupportvectormachine(NSVM)isproposedtor

4、educetrainingdataofclassifier.First,asubsetoftrainingclassifierisextractedfromfulltrainingdatabyusingNSVM,kernelprincipalcomponentanalysis(KPCA),andgreedykernelprincipalcomponentanalysis(GKPCA),respectively.Then,theclassifieristrainedbythosesubsets,respectively.Final

5、ly,theclassificationresultsareevaluatedbytheerrorrateofthetrainingandtestdata.TheclassificationperformanceoftheclassifiertrainedbythesubsetsfromtheKPCAmethodisinferiortothoseoffromtheNSVMandtheGKPCAmethods,butthegeneralizationoftheclassifiertrainedbythesubsetfromtheG

6、KPCAmethodisinferiortothoseoffromtheNSVMmethodfortwodatasetsthroughtwotheclassifiers.SimulationresultsindicatethattheclassifiertrainedbythesubsetfromtheNSVMmethodnotonlyensuresthegeneralizationabilityofclassifier,butalsoreducesthecomputationalcomplexityoftheclassific

7、ationalgorithm.Keywordsclassifier;greedykernelprincipalcomponentanalysis;kernelprincipalcomponentanalysis;non-linearsupportvectormachine;supportvectors;trainingdata近十年来，核空间理论(简称核理论)迅速成为模能无法求解。因此，在核空间中，对大数据集有必[5]式识别和机器学习领域的一个重要分支。核理论采要对分类器的训练数据进行减少。文献[6]提出了用核技巧，通过非线性函

8、数Φ将原始数据空间的数贪婪核主成分分析(GKPCA)，从训练数据中选择子q据集Xxx={,,,}x⊂R映射到特征空间H，再集，用子集代替全部训练数据，其中，子集是在核12n在特征空间H中进行其线性变换。根据核理论，已空间中具有最小表示误差的样本。文献[7-8]