资源描述:
《支持向量机的时间序列回归与预测》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库。
1、第18卷第7期系统仿真学报©Vol.18No.72006年7月JournalofSystemSimulationJuly,2006支持向量机的时间序列回归与预测董辉,傅鹤林,冷伍明(中南大学土木建筑学院,长沙410075)摘要:详细分析了支持向量机用于时间序列预测的理论基础。采用支持向量机、RBF和Elman神经网络模型,对仿真时序和工程滑坡变形时序进行了回归与外延预测。结果表明,在噪声水平较低时,SVR回归效果稍好,Elman与RBF网络的稳健性相对较差;随着噪声水平增大,两种神经网络的回归精度迅速下降。对于外延预测,两种神经
2、网络仅限于短期的非线性模拟,而泛化性能更好的SVR在短期具有比较理想的效果,在较长的时间区间里也具有较高的预测精度(7步预测准确度控制在83.5%以上)。关键词:支持向量机;回归;Elman网络;滑坡变形中图分类号:TP391.9文献标识码:A文章编号:1004-731X(2006)07-1785-04SupportVectorMachinesForTimeSeriesRegressionandPredictionDONGHui,FUHe-lin,LENGWu-ming(CivilArchitectualEngineeringC
3、ollege,CentralSouthUniversity,Changsha410075,China)Abstract:Amethodforpredictingtimeseriesbasedonsupportvectormachineswasproposed.Thetimeseries,includingsimulateddataandlandslidedeformationdatasets,werepreformedforregressionandpredictionbysupportvectormachine,RBFnetw
4、orks,andelmanrecurrentneuralnetworks.Acomparisonofthesethreemethodswasmadebasedontheirpredictingability.Theresultsshowthat:whennoiselevelislowerinsimulatedexperiment,supportvectormachineisperfectrelatively,andtheElmanandRBFnetworkareofmoreinstability,ontheotherhand,w
5、iththehighernoiselevels,thegreaterrelativeerroroftwonetworksmodelsismade.Forlandslidedatasetsprediction,theneuralnetworksarelimitedtopredictshorttermnonlineartimeseriesintermsoftheiraccuracy,whereassupportvectormachinehasahigherprecisionintheshorttermandlongterm.Keyw
6、ord:supportvectormachine;regression;elmanrecurrentnetwork;landslidedeformation1高维数和局部极小点等实际问题,被视为替代人工神经网络引言的较好算法。随着现代数理力学理论和计算机技术的迅速发展,基支持向量机回归算法:给定k个样本数据,其值表示于人工智能领域中遗传算法和人工神经网络的时间序列预为:{x,y},式中x∈Rn的n维向量,y∈R为相对应的kkkk[1]测方法在实践中取得了较好的效果。但是这些方法本身却输出变量,回归算法的基本思想是通过一个非线性映
7、射ϕ,存在着难以克服的缺陷,在学习样本数量有限时,精度难以将数据集映射到高维特征空间H,并在这个空间进行线性保证;样本数量很多时,泛化性能又不高。如何找到一种在回归。具体的函数形式可表示为:有限样本情况下,精度既高同时泛化性能也强的机器学习算f(x)=(ω,ϕ(x))+b,ϕ:Rn→H,ω∈Rnk法便显得很迫切。支持向量机(SupportVectorMachines,SVM)b为偏置量。这样,在高维特征空间的线性回归便对应于低是一种以结构风险最小化原理为基础的新算法,具有其它以维空间的非线性回归,且免去了在高维空间ω和ϕ的点积经
8、验风险最小化原理为基础的算法难以比拟的优越性,同时计算。函数回归问题等价于使如下泛函最小:由于它是一个凸二次优化问题,能够保证得到的极值解是全2k2R[f]=R[f]+0.5ω=∑C(e)+0.5ω[6]regempi=1k局最优解。本文基于这种新的算法,对比R