毕业论文毕业论文毕业论文

《毕业论文毕业论文毕业论文》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、1•综述1.1课题背景1丄1支持向量机的概述与本质机器学习是人工智能的一个理论核心，它研究的是如何根据一些已知具有某些特性的经验数据找到一种规律，并利用这种规律判断或预测未知特性的数据的特性。目询，机器学习的方法主要有三种：第一种是基丁传统统计学的经與的参数估计法。其思路是利用训练样本估计已知形式的参数。它的局限性在于：（1）己知样本的分布形式必须是己知的。（2）训练样本的数口应当趋于无穷大。第二种是非线性方法。其思路是利用经验数据建立一个非线性的模型。它在一定程度上克服了第一种方法的局限性。但是，该方法貝有随意性，

2、目而还缺乏统一的数学理论。第三种是基丁统计学习理论的方法。与第一种方法基于的传统统计学相比，统计学习理论的优势在于，它是研究小样本情况下的机器学习理论。它不仅考虑了渐进性能，并且更加强调如何在有限的信息下得到最优的结果。同时，显然，基于统计学习理论的方法要优于前两种方法。而支持向量机就是一种基于统计学习理论的机器学习方法。它本质上就是一种算法，在机器学习领域，常把一些算法看作是机器（又叫学习机器，或预测函数，或学习函数）。“支持向量”则是指训练集屮的某些训练点的输入xi（注意，该xi不是一个数，而是一个N维的特征向量

3、），而这些训练点对这个算法的求解起着关键的作用，这也可以看做支持向量机名字的由来。支持向量机这种方法通常用在模式识别和数据挖掘等领域。因此，可以把支持向量机看做是模式识别或数据挖掘中的一种新方法。1丄2支持向量机起源、现状和发展方向（1）起源由于传统统计学研究的是样本数目趋于无穷大时的渐近理论。而现有的很多学习方法也多是基于此假设。但在实际问题屮，样本数往往是有限的，因此-•些理论上很优秀的学习方法在实际中的表现却可能不尽人意。而与传统统计学相比，统计学习理论（StatisticalLearningTheory或SL

4、T）是一种专门研究小样木情况下机器学习规律的理论。V.Vapnik等人从六、七十年代开始致力于此方面研究[1],到九十年代中期，随着其理论的不断发展和成熟，也由于神经网络等学习方法在理论上缺乏实质性进展，统计学习理论开始受到越来越广泛的重视。在此基础上，V.Vapnik也进而提岀了基于统计学习理论的一种新的机器学习方法支持向量机（SupportVectorMachine或SVM）。近年来支持向量机在理论研究和算法实现方面都取得了突破性进展，其主要优势在于：<1>它的基础是统计学习理论，针对的是有限样本的情况，其目标是

5、得到有限信息下的最优解而不是样本数目趋于无穷大时的最优值，因此更具有实际应用价值。＜2＞通过核变换以及最优化方法，支持向量机算法最终转化为一个二次凸函数求极值问题，因此得到的是全局最优点。解决了其他机器学习方法，例如神经网络中无法避免的局部极值问题。＜3＞算法利用核函数将实际问题通过某种非线性变换映射到高维特征空间（FeatureSpace）/中，然后在高维特征空间中构造线性判别函数来替代输入空间中的非线性判别函数。这一点保证了该方法冇较好的泛化性能，同时通过直接计算核矩阵巧妙的解决了“维数灾难”问题。（2）研究现状

6、就目前來说，SVM是统计学习理论中最新的内容，也是最实用的部分，口J用于模式识别、回归估计或函数逼近等方面，不但是当前人工智能和模式识别领域研究的热点，而且也已成为机器学习和数据挖掘领域的标准工具。现在对SVM的研究主要集屮在以下几个方面（在第2部分有详细介绍）：〈1＞核函数的构造、修正以及相应参数的调整。〈2＞提高测试速度。〈3＞改进训练算法。〈4＞利用SVM解决多分类的问题。（3）应用现状SVM方法在理论上具有突出的优势，贝尔实验室率先对美国邮政手写数字库识别研究方面应用了SVM方法，取得了较大的成功。在近几年内

7、，有关SVM的应用研究得到了很多领域的学者的重视，在人脸检测、验证和识别，说话人/语咅识别，手写体文字识别，图像处理及其他应用方而取得了大量的研究成杲，从最初的简单模式输入的直接SVM方法研究，进入到多种方法取长补短的联合应用研究，对SVM方法也有了很多改进（在笫2部分有详细介绍）。（4）发展方向当前，对支持向量机的研究方兴未艾，总的来说，主耍围绕两个方面：一是通过对支持向量机本身性质的研究，提出进一步完善的措施。此外还包括多类识别问题和快速训练算法等。二是不断探索新的应用领域。支持向量机本质上是一种非线性数据处理工

8、具，人们注意到它在数字信号处理、图象处理、智能控制等领域有巨人的应用潜力。这方面已经有了一些结果，如基于核的主成分分析、非线性去噪、非线性模式重建以及数据挖掘等。遗憾的是，虽然支持向量机在理论上有很突出的优势，但与其理论研究相比，应用研究尚相对比较滞后，目前只有比较有限的实验研究报道，且多属仿真和对比实验。支持向量机的应用研究应该是一个大有作为