支持向量机算法以及Libsvm工具箱介绍

《支持向量机算法以及Libsvm工具箱介绍》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、支持向量机算法以及Libsvm工具箱介绍汇报人：ctjy=a.x+bSupportvectormachine图1SVM原理介绍SVM优化算法SVM常用工具箱Libsvm函数参数优化一元回归方程Y=w.X+b长度为间隔=w.wY=w.X+bSupportvectormachine图2SVM原理介绍SVM优化算法SVM常用工具箱Libsvm函数参数优化SupportvectormachineSVM原理介绍SVM优化算法SVM常用工具箱Libsvm函数参数优化样本数据集为线性时，f(x)可以表示为：求解以下二次优化问题，得到向量w允许误差存在，引入松弛变量,，得到以

2、下问题其中C为对估计误差大于的样本数据的惩罚因子。SVM原理介绍SVM优化算法SVM工具箱介绍Libsvm函数参数优化引入Lagrange函数：其中η,η,α,α为Lagrange乘子，满足：由此得到该问题的KKT条件。SVM原理介绍SVM优化算法SVM工具箱介绍Libsvm函数参数优化KKT条件:SVM原理介绍SVM优化算法SVM工具箱介绍Libsvm函数参数优化由KKT条件将Lagrange函数转换成对偶规划问题:通过求解该对偶问题求解(1)(2)由KKT条件的，然后求出b所以最终表达式变成SVM原理介绍SVM优化算法SVM工具箱介绍Libsvm函数参数优

3、化非线性回归函数估计决策函数：多项式核函数：径项基核函数：Sogmiod核函数：SVM优化算法Libsvm工具箱Libsvm函数参数优化SVM原理介绍LIBSVMLIBSVM是台湾大学林智仁(LinChih-Jen)副教授等开发设计的一个简单、易于使用和快速有效的SVM模式识别与回归的软件包，他不但提供了编译好的可在Windows系列系统的执行文件，还提供了源代码，方便改进、修改以及在其它操作系统上应用；该软件对SVM所涉及的参数调节相对比较少，提供了很多的默认参数，利用这些默认参数可以解决很多问题；并提供了交互检验(CrossValidation)的功能。该

4、软件包可在http://www.csie.ntu.edu.tw/~cjlin/免费获得。该软件可以解决C-SVM、ν-SVM、ε-SVR和ν-SVR等问题，包括基于一对一算法的多类模式识别问题。SVM优化算法SVM工具箱介绍Libsvm函数参数优化SVM原理介绍Svmtrain（）函数Svmtrain函数用于训练支持向量机模型，选择相关参数和训练样本就能够输出一个结构体model，model中包含模型表达式中全部参数。model=svmtrain(Ytrain,Xtrain,‘-s3-t1-h0–d1-c0.1–p2’);Svmpredict函数用于预测，将模

5、型和预测样本输入就能够输出预测数据，以及预测精度。[T,accuracy,prob_estimates]=svmpredict(Ytest,Xtest,model);Svmpredict（）函数SVM优化算法SVM工具箱介绍Libsvm函数参数优化SVM原理介绍Model主要参数介绍model=Parameters:[5x1double]nr_class:2totalSV:328rho:-3.2425Label:[]ProbA:[]ProbB:[]nSV:[]sv_coef:[328x1double]SVs:[328x2double]模型参数支持向量支持向量数

6、目支持向量系数-bSVM优化算法SVM工具箱介绍Libsvm函数参数优化SVM原理介绍二折法将原始数据集DataSet均分为两份：一份作为训练集，即trainingSet，一份作为测试集，即testingSet，然后用训练集去做训练，用测试集去验证；之后再将训练集作为测试集，测试集作为训练集进行迭代一次，将两次所得的误差经行处理作为总体数据的预测误差。（注：这里强调一点，就是数据集一定要均分为两份，理由是：作为训练集，数据量一定要不小于测试集，所以在迭代的过程中，使得数据不出现错误情况，必须均分。）SVM优化算法SVM工具箱介绍Libsvm函数参数优化SVM原

7、理介绍K折法将原始数据集DataSet均分为N份：K份作为训练集，即testingSet，其余N-K作为测试集，即trainingSet，然后用训练集去做训练，用测试集去验证；之后再分别将训练集作为测试集，测试集作为训练集进行迭代一次，将K次所得的误差经行处理作为总体数据的预测误差。SVM优化算法SVM工具箱介绍Libsvm函数参数优化SVM原理介绍留一法将原始数据集DataSet均分为N份：一份作为测试集，即testingSet，其余作为训练集，即trainingSet，然后分别用训练集中一个数据去做测试，用其余数据去验证；将N次所得的误差经行处理作为总体数

8、据的预测误差。谢谢！