截断误差的光滑型支持向量顺序回归.pdf

《截断误差的光滑型支持向量顺序回归.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第43卷第1期电子科技大学学报V_01．43No．12014年1月JournalofUniversityofElectronicScienceandTechnologyofChinaJan．2O14截断误差的光滑型支持向量顺序回归何海江(长沙学院计算机科学与技术系长沙410003)【摘要】支持向量顺序回归算法已成功应用于解决顺序回归问题，但其易受训练样本中野点的干扰。为此，提出一种截断误差的光滑型支持向量顺序回归(TLS．SVOR)算法。学习顺序回归模型时，将错划样本形成的误差限制在范围U内。TLS—SV

2、OR首先用包含参数“的分段多项式近似；再引入光滑型支持向量机分类算法的思路，将优化目标转变为二次连续可微的无约束问题，从而由牛顿法直接求得唯一的决策超平面。采用两阶段的均匀设计方法确定TLS．SVOR的最优参数。实验结果表明，相比其他顺序回归算法，TLS．SVOR4~个数据集能获得更高的精度。关键词顺序回归；野点；分段多项式；支持向量机；截断误差中图分类号TP391文献标志码Adoi：10．3969／j．issn．1001．0548．2014．01．022TruncatedLossSmoothSuppor

3、tVectorOrdinalRegressionHEHai-jiang(DepartmentofComputerScienceandTechnology,ChangshaUniversityChangsha410003)AbstractSupportvectorordinalregressionfSVOR)hasbeenproventobethepromisingalgorithmforsolvingordinalregressionproblems．However,itsperformancetends

4、tobestronglyaffectedbyoutliersinthetrainingdatasets．TOremedythisdrawback，atruncatedlosssmoothSVOR(TLS—SVOR)isproposed．Ⅵlilelearningordinalregressionmodels．tIlelossSofthemisrankedsampleisboundedbetween0andthetnmcatedcoeficient．First,apiecewisepolynomialfun

5、ctionwithparameterUisapproximatedto．Then．byapplyingtllestrategyofsmoothsupportvectormachineforclassification．tl1eoptimizationproblemisreplacedwithanunconstrainedfunctionwhichistwicecontinuouslydifferentiable．ThealgorithmemploysNewton’Smethodtoobtaintheuni

6、quediscriminanthyperplane．TheoptimaIparametercombination0fTLS-SVORisdeterminedbyatwo．stageuniformdesignedmodelselectionmethodology．TheexperimentalresuRsonbenchmarkdatasetsshowtl1atTLS．SVORhasadvantageintermsofaccuracyoverotherordinalregressionapproaches．K

7、eywordsordinalregression；outlier；piecewisepolynomial；supportvectormachine：truncatedlOSS顺序回归(ordinalregression，OR)算法是机器学1)样本转换方法。将OR问题转变为分类问题，习的重要工具，解决介于分类和数值回归之间的问再用标准的分类算法求解。RankSVM[21将序数相异题。给定训练样本集{Jl户l。)，特征组合向量的样本两两组合成一个新样本，OR问题转换为两类属于输入空间，标记／l~yj属于输出空

8、间】，，函数厂别分类问题，再以支持向量机作为分类算法。文献实现艇0瑚映射。在分类问题和OR问题中，跪有【3】则用代价敏感的支持向量机训练两类别分类模限个离散元素的集合。不同的是，前者冲元素没有型。SVM．EBC要求错划代价确定且已知，而许多实顺序，后者冲元素存在单调的顺序关系。而在数值际应用中，错划代价未知且模糊。文献【4】以决策超回归问题中，y是连续的实数。若OR模型的输出空平面的间隔代理错划代价，由多目标优化算法求得间由v