浅析支持向量机以及其发展前景.doc

《浅析支持向量机以及其发展前景.doc》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、浅析支持向量机以及其发展前景隆冬（天津大学生物医学工程系）摘要：支持向量机（SupportVectorMachine,SVM）是CorinnaCortes和Vapnik等于1995年怦先提出的，它在解决小样本、非线性及高维模式识别屮表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题屮。其结构简单，性能不俗，木文旨在粗略了解支持向量机的原理及相关知识，并对其发展前景以及最新进展进行展望。1•引言众所周知，统计模式识别、线性或非线性冋归以及人工神经网络等方法是数据挖掘的有效工具，但多年来我们也受制于一个难题：传统的模式识别

2、或人工神经网络方法都要求有较多的训练样木，而许多实际课题屮已知样木较少。对于小样木集，训练结果最好的模型不一定是预报能力最好的模型。因此，如何从小样木集出发，得到预报（推广）能力较好的模型，遂成为模式识别研究领域内的一个难点，即所谓“小样本难题”。但随着SVM的出现支持向最机（supportvectormachine,简称SVM）算法已得到国际数据挖掘学术界的重视,其实现了在小样木情况下能最大限度地提高预报可靠性的方法。2・SVM基本原理若II为两类样木的最优分类线，111、112为两条平行于H的肓线。Hl、H2分别过各类中离分类线

3、H最近的样木，这些样木称做支持向量（supportvector,简称SV）,Hl、H2Z间的距离称做分类间隔（margin）（见图）。所谓最优分类线是指这样的一条分类线，它不但能将两类正确分开，而且使分类间隔最大。支持向量机将向量映射到一个更高维的空间里，在这个空间里建立有一个最大间隔超平曲。在分开数据的超平面的两边建有两个互相平行的超平面。建立方向合适的分隔超平面使两个与Z平行的超平血间的距离最大化。其假定为，平行超平面间的距离或寿距越大，分类器的总•误差越小。2.1线性可分情形在线性可分的情况下，就会存在一个超平血使得训练样木完

4、全分开，该超平面可描述为；其屮，“・”是点积，0是〃维向量，b为偏移量。最优超平血是使得每一类数据与超平面距离最近的向量与超平面之间的距离最大的这样的平面。最优超平面可以通过二次优化问题来获得。在大样木条件下转化为对偶问题，在满足一定约束条件下即可进行分类。2.2非线性可分情形对于线性不可分的情况，可以把样本X映射到一个高维特征空间H,并在此空间屮运用原空间的函数来实现内积运算，这样将非线性问题转换成另一空间的线性问题来获得一个样木的所分之类。3.SVM基本应用1=3.1生物信息学支持向量机的技术衣心物信息学屮的应用同样变得越来越重

5、要，仃着相当广阔的应用前景。譬如说支持向量机在关于人体DNA上面的应用就十分广泛。近年来随着技术进步，生物学的信息数量已经大幅度的增长了起来。大量关于DNA的信息已经公开，这一现彖大大增加了人们对于数据分类技术的应用，其•可将大量数据根据不同的结构功能进行分类。不仅如此，支持向量机在生物信息学上的应用还包括了蛋白质的识别，细胞的定位，癌症的模型预测等等等等的研究领域发挥着重要作用。3.2图像处理医学图像中的分割和配准一肓是医学图像处理的两个困难问题，而使用支持向量机进行处理，对于理论和实际都有着重要的意义。因为SVM在小样木，高维特

6、征的情况下有看较好的推广能力，因此对于MRI磁共振脑图像等图像进行分割实验，特征的捉取有肴不错的应用。3.3其他方血SVM并不是只在生物医学工程里有着应用，事实上，其应用的范围非常Z广。常见的应用包括手写识别，人脸识别技术，地球物理屮的反演技术，预测地下水涌水量，预测地层孔隙度及黏粒含量，天气预报等方面有着不错的应用。4•最新进展目前SVM算法在模式识别、冋归估计、概率密度函数估计等方面都有丿应用。例如，在模式识别方面，对于手写数字识别、语音识别、人脸图像识别、文章分类等问题，算法在精度上已经超过传统的学习算法或与Z不相上下。目前，

7、国际上对这一理论的讨论和进一步研究逐渐广泛，而我国国内尚未在此领域开展研究，因此我们需要及时学习掌握有关理论，开展有效的研究工作，使我们在这一有着重要意义的领域中能够尽快赶上国际先进水平。尽管SVM算法的性能在许多实际问题的应用屮得到了验证，但是该算法在计算上存在着一些问题,包括训练算法速度慢、算法复杂而难以实现以及检测阶段运算量大等等,SVM方法的训练运算速度是限制它的应用的主要方瓯。目前寻优的方法有“块算法”等。