稀疏最小二乘支持向量机及其应用.pdf

《稀疏最小二乘支持向量机及其应用.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第9卷第7期中国科技论文Vo1．9No．72014年7月CHINASCIENCEPAPERJu1．2014稀疏最小二乘支持向量机及其应用衷路生，陈立勇(华东交通大学电-％4电子工程学院，南昌330013)摘要：提出基于特征向量选择(featurevectorselection，FVS)的稀疏最小二乘支持向量机(sparseleastsquaressupportvectormachine，SIS-SVM)模型，解决最小二乘支持向量机(1eastsquaressupportvectormachine，LS-SVM)稀疏化问题。采用FVS在特征空间构建特征向量子集，对训练样本

2、进行稀疏线性重构；将稀疏化的特征向量作为支持向量，从而实现对LS-SVM稀疏化建模。将SLS-SVM模型进行弓网系统的仿真对比实验，结果表明SLS-SVM模型在取得高预报精度的同时，可实现支持向量的高度稀疏化，从而加快模型预报速度。关键词：特征向量；稀疏；支持向量；弓网系统中图分类号：TP301．6文献标志码：A文章编号：2095—2783(2014)07—0779—05ApplicationofsparseleastsquaressupportvectormachineZhongLusheng，ChenLiyong(SchooloJ’ElectricalandElec

3、tronicEngineering，EastChinaJiaotongUniversity，Nanchang330013，China)Abstract：Anewmodelofsparseleastsquaressupportvectormachine(SLS-SVM)isproposedtosolvethesparsenessproblemofleastsquaressupportvectormachine(LS-SVM)，hasedonfeaturevectorselection(FVS)method．Asubsetoffeaturevectorsisdefinedi

4、nfeaturespacetoreconstructallthetrainingsampleslinearly．ThesparsefeaturevectorsareusedassupportvectorstomodelLSVM．SLS-SVMissimulatedwithpantograph-catenarysystem．ItisshownthatSLS-SVMcanimproveforecastpreci—sion，andacceleratepredictionspeedbyachievinghighlysparsesupportvectors．Keywords：fe

5、aturevector；sparse；supportvector；pantograph-catenarysystem支持向量机(supportvectormachine，SVM)是了对偶LSVR稀疏模型。然而该模型的稀疏化程以结构风险最小化为建模基础的机器学习方法_1J。度受到规定值设定的影响_6]。文献[7]为了确保LSVM以其良好的泛化能力及非线性处理优势，被广SVM模型的高度稀疏，将正则项引人模型原始目泛应用于模式识别和回归估计领域_2。]。但是支持标函数，并将不相：关样本对应的Lagrange乘子迭代向量机优化涉及到的凸二次规划问题，常因求解效设置为0。但类似于

6、剪枝算法，LO正则项的引人，同率低下、计算量大而不利于存储。文献E4]在借鉴样需要在每次迭代过程中求解一组线性方程组。SVM优点的基础上，提出了最小二乘支持向量机基于以上分析，本文首先根据特征向量选择思(1eastsquaressupportvectormachine，LSVM)。想，在高维特征空间中建立能够线性重构其余数据不同于传统的SVM模型，LSVM以误差的平方项的特征向量子集，达到稀疏训练样本的目的；接着将及等式约束分别代替SVM的￡不敏感损失函数和选择到的特征向量作为支持向量，并构建稀疏最小不等式约束，从而可将凸二次规划转化为线性方程二乘支持向量机优化目标函数

7、，从而实现LS-SVM组求解问题，降低算法的复杂度。的稀疏化建模；最终以弓网系统接触压力为仿真对作为SVM的改进，LS-SVM优化问题在得到简象，实验论证本艾方法的有效性。化的同时，会缺失SVM固有的稀疏性。为了预防过1最dx-乘支持向量机拟合现象的产生，加快对新人数据的预报速度，文献[5]首先提出了采用剪枝算法提高LS-SVM模型的给定训练样本数据集，Y)~_，其中N为样稀疏性。剪枝算法首先将Lagrange乘子的绝对值本容量，薯∈Rn为第i个输入向量，Y∈R为X的排序，然后按照事先设定的标准，逐步消除贡献度小对应目标输出。最／J~z．