svm参数初始化

svm参数初始化

ID:28748257

大小:42.16 KB

页数:19页

时间:2018-12-13

svm参数初始化_第1页
svm参数初始化_第2页
svm参数初始化_第3页
svm参数初始化_第4页
svm参数初始化_第5页
资源描述:

《svm参数初始化》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库

1、基于GridSearch的svm参数寻优看这个帖子之前您需要了解什么叫交叉验证:交叉验证(CrossValidation)方法思想简介http://www.matlabsky.com/forum-v...-fromuid-18677.html以下内容摘自《MATLAB 神经网络30个案例分析》第13章:关于SVM参数的优化选取,国际上并没有公认统一的最好的方法,现在目前常用的方法就是让c和g在一定的范围内取值,对于取定的c和g对于把训练集作为原始数据集利用K-CV方法得到在此组c和g下训练集验证分类准确率,最终取使得训练集验证分类准确率最高的那组c和g做为最佳的参数,但有一个

2、问题就是可能会有多组的c和g对应于最高的验证分类准确率,这种情况怎么处理?这里采用的手段是选取能够达到最高验证分类准确率中参数c最小的那组c和g做为最佳的参数,如果对应最小的c有多组g,就选取搜索到的第一组c和g做为最佳的参数。这样做的理由是:过高的c会导致过学习状态发生,即训练集分类准确率很高而测试集分类准确率很低(分类器的泛化能力降低),所以在能够达到最高验证分类准确率中的所有的成对的c和g中认为较小的惩罚参数c是更佳的选择对象。以上的寻参思想在libsvm-mat-2.89-3[FarutoUltimate3.0]工具箱中已经实现SVMcgForClass.m(分类问题

3、寻优)、SVMcgForRegress.m(回归问题参数寻优):函数使用接口介绍如下:网格参数寻优函数(分类问题):SVMcgForClass[bestCVaccuracy,bestc,bestg]= SVMcgForClass(train_label,train,cmin,cmax,gmin,gmax,v,cstep,gstep,accstep)输入:train_label:训练集的标签,格式要求与svmtrain相同。train:训练集,格式要求与svmtrain相同。cmin,cmax:惩罚参数c的变化范围,即在[2^cmin,2^cmax]范围内寻找最佳的参数c,默认

4、值为cmin=-8,cmax=8,即默认惩罚参数c的范围是[2^(-8),2^8]。gmin,gmax:RBF核参数g的变化范围,即在[2^gmin,2^gmax]范围内寻找最佳的RBF核参数g,默认值为gmin=-8,gmax=8,即默认RBF核参数g的范围是[2^(-8),2^8]。v:进行CrossValidation过程中的参数,即对训练集进行v-foldCrossValidation,默认为3,即默认进行3折CV过程。cstep,gstep:进行参数寻优是c和g的步进大小,即c的取值为2^cmin,2^(cmin+cstep),…,2^cmax,,g的取值为2^gm

5、in,2^(gmin+gstep),…,2^gmax,默认取值为cstep=1,gstep=1。accstep:最后参数选择结果图中准确率离散化显示的步进间隔大小([0,100]之间的一个数),默认为4.5。输出:bestCVaccuracy:最终CV意义下的最佳分类准确率。bestc:最佳的参数c。bestg:最佳的参数g。网格参数寻优函数(回归问题):SVMcgForRegress[bestCVmse,bestc,bestg]= SVMcgForRegress(train_label,train,cmin,cmax,gmin,gmax,v,cstep,gstep,mses

6、tep)其输入输出与SVMcgForClass类似,这里不再赘述。SVMcgForClass.m源代码:1.function[bestacc,bestc,bestg]=SVMcgForClass(train_label,train,cmin,cmax,gmin,gmax,v,cstep,gstep,accstep)2.%SVMcgcrossvalidationbyfaruto3.4.%%5.%byfaruto6.%Email:patrick.lee@foxmail.comQQ:516667408http://blog.sina.com.cn/farutoBNU7.%lastm

7、odified2010.01.178.9.%%若转载请注明:10.%farutoandliyang,LIBSVM-farutoUltimateVersion 11.%atoolboxwithimplementsforsupportvectormachinesbasedonlibsvm,2009. 12.% 13.%Chih-ChungChangandChih-JenLin,LIBSVM:alibraryfor14.%supportvectormachines,2001.Softwareavailable

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。