资源描述：
《模式识别中的支持向量机方法23198》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、第37卷第5期浙江大学学报(工学版)Vol.37No.52003年9月JournalofZhejiangUniversity(EngineeringScience)Sep.2003模式识别中的支持向量机方法杜树新,吴铁军(工业控制技术国家重点实验室,浙江大学智能系统与决策研究所,浙江杭州,310027)摘要:针对模式识别问题,描述了支持向量机的基本思想,着重讨论了M-SVM、最小二乘SVM、加权SVM和直接SVM等新的支持向量机方法,用于降低训练时间和减少计算复杂性的海量样本数据训练算法分块法、分解法,提高泛化能力的模型选择方法,以及逐一鉴别法、一一区分法、M-ary分类法、一次性求
2、解等多类别分类方法.最后给出了污水生化处理过程运行状态监控的多类别分类实例.作为结构风险最小化准则的具体实现,支持向量机具有全局最优性和较好的泛化能力.关键词:支持向量机;模式识别;泛化能力中图分类号:TP181文献标识码:A文章编号:1008-973X(2003)05-0521-07SupportvectormachinesforpatternrecognitionDUShu-xin,WUTie-jun(NationalKeyLaboratoryofIndustrialControlTechnology,InstituteofIntelligentSystemsandDecisio
3、nMaking,ZhejiangUniversity,Hangzhou310027,China)Abstract:AnoverviewofthebasicideasunderlyingSupportVectorMachine(SVM)forpatternrecogni-tionwasgiven.NewmethodssuchasM-SVM,LS-SVM,weightedSVManddirectSVM,trainingalgo-rithmsincludingchunkingmethodanddecompositionmethodforthesakeoffastcomputationals
4、peedandeaseofimplementation,modelselectionapproachesminimizingthegeneralizationerror,andmulticlassclassificationmethodssuchasone-against-the-restmethod,one-against-onemethod,M-aryclassificationwereconcentrated.Finally,anexampleofmulticlassclassificationformonitoringoperationstatusofwastewatertr
5、eatmentprocesseswasgiven.Asadirectimplementationofthestructureriskminimization(SRM)inductiveprinciple,SVMprovidesgoodperformancessuchasglobaloptimizationandgoodgener-alizationability.Keywords:supportvectormachines;patternrecognition;generalizationability.从观测数据中学习归纳出系统运动规律,并利了结构风险最小化准则(structura
6、lriskminimiza-用这些规律对未来数据或无法观测到的数据进行预tion,SRM),通俗地说就是通过对推广误差(风险)测一直是智能系统研究的重点.传统学习方法中采上界的最小化达到最大的泛化能力.Vapnik提出用的经验风险最小化准则(empiricalriskminimiza-的支持向量机(supportvectormachine,SVM)就是tion,ERM)虽然可以使训练误差最小化,但并不能这种思想的具体实现.支持向量机的基本思想是在最小化学习过程的泛化误差.ERM不成功的例子样本空间或特征空间,构造出最优超平面,使得超平[1,2]就是神经网络的过学习问题.为此,Vapn
7、ik提出面与不同类样本集之间的距离最大,从而达到最大收稿日期:2002-09-30.作者简介:杜树新(1967-),男,浙江东阳人,副研究员,从事模式识别与智能系统理论及应用、工业过程计算机控制等方面研究.E-mail:shxdu@iipc.zju.edu.cn522浙江大学学报(工学版)第37卷的泛化能力.y(x)=sign(w·x+b),(4)支持向量机结构简单,并且具有全局最优性和其泛化能力最优,其中sign(·)为符号函数.最优较好的泛化能力,自2
