资源描述：
《基于Kalman 滤波的储备池多元时间序列在线预报器》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。
1、第36卷第1期自动化学报Vol.36,No.12010年1月ACTAAUTOMATICASINICAJanuary,2010[3]作为卡尔曼(Kalman¯lter,KF)算法的一种非线性推广形式,近年来被用于网络在线学习中.EKF属于最优状态估基于Kalman滤波的储备池多元计算法,用它训练神经网络时,网络的权值被当作滤波器的[4]待估状态,具有接近二次的收敛速度,训练速率明显优于时间序列在线预报器BP.但是,EKF算法在计算中用到了误差协方差矩阵的近似11值,最终只得到最优解的一阶近似形式,算法的精度和收敛韩敏王亚楠性都无法保证,仅在初始误差和噪声不大时
2、有效.且运算过程中含有Jacobian矩阵的求取,需要通过RTRL或BPTT摘要针对多元非线性时间序列,结合回声状态网络和Kalman滤[5]这样的梯度下降算法实现.后来提出的UKF方法虽然能波提出一种新的在线自适应预报方法.该方法将Kalman滤波应用于回声状态网络储备池高维状态空间中,直接对网络的输出权值进行在线更够提高预测的精度,但它以牺牲运算量为代价,计算复杂度新,省去了传统递归网络扩展Kalman滤波中Jacobian矩阵的计算,远高于EKF,同时其Unscented变换参数的选取具有较大随在提高预测精度的同时令算法的适用范围得到扩展.在回声状态网
3、络稳机性[6].定时给出所提算法的收敛性证明.仿真实例验证了所提方法的有效性.回声状态网络(Echostatenetwork,ESN)是一种性能关键词卡尔曼滤波,递归网络,回声状态网络,多变量序列,预测良好的新型递归网络,具有较强的生物背景和非线性函数逼DOI10.3724/SP.J.1004.2010.00169近能力[7].ESN内部包含一个递归连接大且稀疏的储备池,起到存储历史信息的回声"作用,储备池到输出之间呈线MultivariateTimeSeriesOnlinePredictor性映射.与常规RNN网络不同,ESN的输入权值和储备池withK
4、almanFilterTrainedReservoir内部连接权值在初始时刻即给定不变,训练的目的是为得到储备池到输出间的最优输出权值,可应用线性算法求取.本HANMin1WANGYa-Nan1文在ESN网络储备池学习机制基础之上,将原始空间的非AbstractAnovelonlineadaptivepredictionmethodispro-线性问题转化为储备池高维状态空间的线性问题后,利用posedformultivariablenonlineartimeseries,whichisbasedonKF算法实时更新网络的输出权值.由于储备池状态至输出ech
5、ostatenetwork(ESN)andKalman¯ltering(KF)algorithm.值间为线性映射,KF算法不需经任何扩展即可直接用于输TheKFisadoptedinthehigh-dimensionreservoir"statespacetodirectlyupdatetheoutputweightsoftheESNonline.Itisim-出权值的寻优.相比于传统RNN的EKF算法,既消除了plementedwithoutthecomputationofJacobianmatriceswhich一阶线性近似产生的运算偏差,解除了网络方
6、程必为一阶可isintheexpandedKF(EKF)algorithmoftraditionalrecurrent导且导数可求的限制,又避免了Jacobian矩阵的求取运算.neuralnetwork(RNN),soastoimprovethepredictionaccuracy在ESN网络稳定的前提下,给出本文算法的收敛性证明,并andextendtheapplications.Theconvergenceoftheproposed通过Lorenz多元时间序列预测仿真实验将本文方法与传统methodisprovedwhentheESNissteady.
7、SimulationexamplesEKF方法进行比较.demonstratethevalidityoftheproposedmethod.KeywordsKalman¯lter(KF),recurrentneuralnetwork1多变量时间序列状态空间重构(RNN),echostatenetwork(ESN),multivariateseries,predic-tion对时间序列进行分析的第一步是相空间重构,延迟坐标状态空间重构是最常用的方法.假定多元离散时间序列为时间序列预测技术在复杂系统建模、数据流技术和故障x1(t);x2(t);¢¢¢;xn(t)
8、,借鉴单变量序列重构相空间的方法,诊断等领域都具有较
