一种自适应训练的bp神经网络fpga设计

《一种自适应训练的bp神经网络fpga设计》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、一种自适应训练的BP神经网络FPGA设计摘要：为解决软件实现祌经网络存在并行度不高、速度慢的缺点以及传统神经网络硬件设计资源利用高、网络训练不可控的不足，提出了一种新的BP神经网络FPGA设计方法。该方法通过基于对称性的分段线性拟合和非线性拟合实现Sigmoid激励函数和利用有限状态机实现基于误差的训练次数自适应。应用VerilogHDL语言设计1?3?1三层BP神经网络逼近[y=cosx]函数，网络的资源占用为2756LEs，训练次数为1583次，网络测试样本的平均相对误差为0.6%,最高时钟频率为82.3MHz。

2、验证结果表明该方法设计的神经网络资源占用少，网络训练可自动控制，同时还具有精度高，运行速度快的优点。关键词：FPGA；BP神经网络；线性拟合；非线性拟合；自适应训练中图分类号：TN702.2734；TP183文献标识码:A文章编号：10047373X(2016)1570115?04Abstract：Usingsoftwareforneuralnetworkhasthedisadvantagesoflowparallelismandslowspeed，thehardwaredesignresourceutilizati

3、onofthetraditionalneuralnetworkishigh,andthenetworktrainingisuncontrollable.Tosolvetheseproblems，anewFPGA?baseddesignmethodofbackpropagation(BP)neuralnetworkisproposed.ThemethodcanrealizetheSigmoidexcitationfunctionthroughpiecewiselinearfittingandnonlinearfitti

4、ngbasedonsymmetry,andusesthefinitestatemachine(FSM)toaccomplishthetrainingtimesadaptionbasedonerror.TheVerilogHDLlanguageisusedtodesignthe1?3?1BPneuralnetworktoapproximatethefunction[y=cosx.]Theresourceoccupancyofthenetworkis2756LEs，thetrainingtimesare1583，thea

5、veragerelativeerrorofthenetworktestsampleis0.6%,andthemaximumclockfrequencyis82.3MHz.Theverificationresultsshowthattheneuralnetworkdesignedwiththemethodhastheadvantagesoflessresourceoccupancy,highaccuracyandfastrunningspeed，andcancontrolthenetworktrainingautoma

6、tically.Keywords:FPGA；BPneuralnetwork；linearfitting；nonlinearfitting；adaptivetraining0引言人工神经网络(ANNS)[1]通常都是采用基于软件的方法实现。但作为一个并行计算系统，软件实现的方法存在速度慢的缺点，而硬件方式具有高并行性的特点，适合于人工神经网络。FPGA作为一种通用的硬件设计平台，其内部分布式的资源与神经网络的结构非常契合，是一个实现神经网络硬件化设计的良好选择。资源占用是FPGA设计的一个重要考量因素，而网络训练是神经

7、网络功能实现的基础。已有的神经网络硬件设计工作在这两方面还存在巨大的空间。例如，薛维琴等利用FPGA实现了BP神经网络［2］，该网络经过训练能够描述非线性函数，但没有提出BP神经网络的激励函数和训练控制模块的具体硬件实现方法。李利歌等提出了直接利用查找表实现神经网络激励函数的方法［3］，但是查找表存在占用资源大，运行速度慢的缺点。张海燕等采用基于查找表的STAM法实现神经网络激励函数［4］，且文中也没有提到训练控制模块。JavierVails等提出利用CORDIC算法实现神经网络的激励函数［5］，资源利用率低，但是存

8、在精度不足的问题。刘培龙利用分段拟合实现激励函数［6］,但是激励函数资源占用较多。基于这一现状，本文通过对Sigmoid函数基于对称性分段拟合以及基于误差的训练自适应技术，提出了一种新的神经网络FPGA设计方法。该方法设计的神经网络资源占用少，网络训练自适应，同时还具有精度高，运行速度快的优点。1BP神经网络的FPGA设计根据BP神经网络的结构