资源描述:
《支持向量机在模式识别中的应用.pdf》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、基金项目论文电讯技术2006年第4期FOUNDATIONSUPPORTEDPROJECT文章编号:1001-893X(2006)04-0009-043支持向量机在模式识别中的应用沈明华,肖立,王飞行(国防科技大学电子科学与工程学院,长沙410073)摘要:针对传统神经网络存在网络结构难于确定、过学习以及局部极小等问题,研究了基于支持向量机(SVM)的模式识别问题。通过对棋盘这种典型非线性二值问题的分类研究,分析了支持向量机的分类与泛化能力,支持向量机在分类和泛化能力方面远远优于传统神经网络。最后将支持向量机用于对两类飞机目标的分类识别,通
2、过多组蒙特卡罗试验,获得了较好的识别结果。支持向量机在目标识别中有巨大潜力和广阔前景。关键词:模式识别;支持向量机;径向基函数;泛化能力;目标识别中图分类号:TN957.5文献标识码:AApplicationofSupportVectorMachine(SVM)inPatternRecognitionSHENMing-hua,XIAOLi,WANGFei-xing(SchoolofElectronicScienceandEngineering,NationalUniversityofDefenceTechnology,Changsha41
3、0073,China)Abstract:Aimingattheproblemssuchasdifficultdeterminationofnetstructure,overfittingandlocalminimizationoftraditionalneuralnetworks,thesupportvectormachine(SVM)appliedtopatternrecogni2tionisstudied.Byinvestigatingthechessboardclassification,whichistypicalofnonlin
4、eartwo-valueproblem,thegeneralizationabilityofSVMisanalyzed.SVMismorepowerfulthantraditionalneuralnet2workintheaspectofclassificationandgeneralization.FinallytwokindsofairplanesarerecognizedbasedonSVM,withmanyMonte-Carloexperimentsgoodclassificationresultsareachieved.SVMh
5、ashugepo2tentialsandgoodprospectintheareaoftargetrecognition.Keywords:patternrecognition;supportvectormachine(SVM);rangeprofiles;generalizationability;tar2getrecognition[1]之一。支持向量机克服了传统神经网络的以上1引言不足,在模式识别、图像处理、回归分析等方面得到近年来,神经网络在模式识别、图像处理、函数了广泛应用。这一理论基础坚实、数学推导严密,在逼近等方面得到广泛研
6、究和应用,但是传统神经网解决小样本、非线性以及高维模式识别问题中显示络在实际应用中存在网络结构难于确定、过学习或了无法比拟的优越性。针对模式识别问题,本文研欠学习以及局部极小等问题。究了支持向量机的分类性能和泛化能力,通过大量20世纪90年代中期,Vapnik提出的支持向量实验验证了支持向量机在模式识别中良好的分类和机(SVM)以其结构简单、具有全局最优性和较好的泛化能力等优点成为机器学习领域最有影响的成果泛化能力。3收稿日期:2005-12-14;修回日期:2006-04-04基金项目:国家自然科学基金资助项目(60572138)·9·
7、基金项目论文电讯技术2006年第4期FOUNDATIONSUPPORTEDPROJECTyi[(w·x)+b]=1的点,也就是距最优分类超平面最近的点,对应图1中的x1、x2、x3。2支持向量机基本理论机器学习是人工智能重要的应用领域,现有机器学习方法的重要理论基础是统计学,传统统计学是研究样本数目趋于无穷大时的渐进理论,但在实际问题中,样本数目常常有限,甚至是小样本,因此基于大数定律的传统统计方法难以较好发挥作用,导致一些理论上优秀的学习方法在实际应用中不能图1最优划分超平面示意图达到理想效果。Vapnik等人提出的统计学习理论(SLT
8、)是一种专门研究小样本的理论,避免了人工训练集的最优分类判别函数可以表示为m神经网络等方法的网络结构难于确定、过学习和欠f(x)=sign∑yiαi(x·xi)-b(5)学习以及局部极小等问题