基于正交最小二乘的傅立叶神经网络结构选取方法.pdf

《基于正交最小二乘的傅立叶神经网络结构选取方法.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第48卷第6期石油化工自动化VoL48，No．62012年12月AUTOMAT10NINPETR()_CHEMICALINDUSTRYDecember，2012基于正交最小二乘的傅立叶神经网络结构选取方法段超霞1，田学民2(1．国家知识产权局专利局专利审查协作广东中心，广州510530；2．中国石油大学信息与控制工程学院，山东青岛266580)摘要：针对傅立叶神经网络基频选取及隐含层神经元数目难以确定这一问题，提出一种基于正交最小二乘的傅立叶神经网络结构选择方法。该方法依据傅立叶神经网络激活函数是

2、一系列不同函数的特点，给定一个较小的基频，把一系列关于基频整数倍的正余弦函数作为可供选择的激活函数集，然后由正交最小二乘算法选择对网络性能贡献显著的函数作为激活函数，并简化网络结构。以聚合反应器为对象的建模仿真研究表明，正交最小二乘算法可以更有效地确定傅立叶神经网络结构。关键词：傅立叶神经网络正交最小二乘算法激活函数中图分类号：TP273文献标志码：A文章编号：1007—7324(2012)06—0019～05StructureSelectionforFourierNeuralNetworkBas

3、edonOrthogonalLeastSquareOptimizationDuanChaoxia．TianXuemin(1．PatentExaminationCooperationCenterofSIPO，Guangzhou，510530，China~2．CollegeofInformationandControlEngineering，ChinaUniversityofPetroleum，Qingdao，266580，China)Abstract：Contraposetotheproblemof

4、difficultdeterminationofthebasefrequencyselectionandneuralhiddennodesnumberofFourierNeuralNetwork(F0NN)，theOrthogonalLeastSquare(OLS)methodiSusedtooptimizeFoNN．AccordingtothecharacteristicthattheactivationfunctioninFoNNiSdifferent。itiSregardedasaprobl

5、emofactivationfunctionselection．Givenasmallbasefrequency，aseriesofsin／cosfunctionsregardingintegralmultipleofbasefrequencyaretreated38asetoffunction，andthenOLSalgorithmisemployedtochoosedistinctlycontributingfunctionsubsetasactivationfunction．Thesimul

6、ationstudyofpolymerizationreactorshowsthattheproposedmethodiseffective．Keywords：FoNN；OLS；activationfunction神经网络由于其良好的非线性逼近性能而广调整，训练参数少，因而收敛速度快；且正交激活函泛应用于非线性系统的建模El3。在使用神经网络数的存在，使训练更易收敛到全局极值点[4]。由于解决给定的实际逼近问题时，激活函数的选择对神FoNN使用正交的傅立叶复指数函数作为激活函经网络的结构和逼近性能

7、有很大影响，常用的激活数，当用于控制时，能与闭环系统的频域响应紧密函数有sigmoid函数、高斯函数、双曲正切函数等。联系起来，因而ZUOWei等将自适应规则、迭代尽管这些函数在实际建模过程中已得到了广泛应学习控制与FoNN结合起来应用到非线性系统的用，但也存在一些缺点，如过训练，易陷入局部极小跟踪控制中_5唱]。点，学习过程非常耗时等。基于傅立叶分析理论而建立的傅立叶神经网络[2。。]FoNN(FourierNeural稿件收到日期：2012—09—27。Network)则能避免上述问题，它以正

8、交傅立叶复基金项目：国家自然科学基金资助(51104175)，山东省自然科学基指数函数为激活函数，使得网络的输出权值为给定金资助(ZR2011FM014)。目标函数的频谱，且网络结构也可依据系统的物理作者简介：段超霞(1985一)，女，硕士学位，现工作于国家知识产权特性确定。训练FoNN时，仅需对输出权重进行局专利局专利审查协作广东中心。20石油化工自动化第48卷在FoNN中，影响其性能的关键因素是基频在实际应用中，复函数州助无法实现，可以和隐含层神经元数目。如果基频选择较小，那么