资源描述:
《二维矩阵卷积的并行计算方法》由会员上传分享,免费在线阅读,更多相关内容在工程资料-天天文库。
1、第52卷第3期浙江大学学报(工学版)Vol.52No.32018年3月JournalofZhejiangUniversity(EngineeringScience)Mar.2018DOI:10.3785/j.issn.1008-973X.2018.03.013二维矩阵卷积的并行计算方法张军阳,郭阳,扈啸(国防科技大学计算机学院,湖南长沙410073)摘要:为了提高卷积神经网络模型中二维矩阵卷积的计算效率,基于FT2000多核向量处理器研究二维矩阵卷积的并行实现方法.通过使用广播指令将卷积核元素广播至向量寄存器,使用向量LOAD指令加载卷积矩阵行元素,并通过混洗操作将不易
2、并行化的矩阵卷积操作变成可以向量化的乘加操作,实现了通过减少访存、充分复用已取数据的方式来提高算法的执行效率.设计卷积矩阵规模变化、卷积核规模不变和卷积矩阵规模不变、卷积核规模变化2种常用矩阵卷积计算方式,并对比分析不同计算方式对算法执行效率的影响.基于服务器级多核CPU和TI6678进行实验对比,实验结果显示,FT2000比多核CPU及TI6678具有更好的计算优势,相比多核CPU最高可加速11974倍,相比TI6678可加速21倍.关键词:矩阵卷积;向量处理器;并行算法;性能优化;卷积神经网络中图分类号:TP391文献标志码:A文章编号:1008973X(2018)
3、03051509Parallelcomputingmethodfortwo-dimensionalmatrixconvolutionZHANGJun-yang,GUOYang,HUXiao(CollegeofComputer,NationalUniversityofDefenseTechnology,Changsha410073,China)Abstract:Aparallelimplementationmethodbasedonmulti-corevectorprocessorFT2000wasproposedtoimprovethecomputationaleffi
4、ciencyoftwo-dimensionalmatrixconvolutioninconvolutionneuralnetworkmodel.Theconvolutionkernelelementwasbroadcasttovectorregisterbyusingbroadcastinstruction;therowelementsoftheconvolutionmatrixwerevectorloaded.Withshuffleoperation,theoperationofmatrixconvolution,whichishardtobeparallelled,
5、canbevectorizedbyusingmultiply-addoperation,andtheimplementationefficiencywasachievedthroughreductionofaccess,fullreuseofobtaineddata.Twokindsofcommonmatrixconvolutionmethodsweredesigned:changingconvolutionmatrixscalewithconstantconvolutionkernelsize,andconstantconvolutionmatrixsizewithc
6、hangingconvolutionkernelscale.Theinfluenceofdifferentcalculationmethodsonthealgorithmexecutionefficiencywasanalyzedandcompared.Finally,thecomparisonexperimentsweretakenbasedontheserver-levelmulti-coreCPUandTI6678.ResultsshowthatFT2000hasabettercomputingadvantageovermulti-coreCPUandTI6678
7、,whichcanaccelerateupto11974timescomparedtomulti-coreCPU,whiletoTI6678itis21times.Keywords:matrixconvolution;vectorprocessor;parallelalgorithm;performanceoptimization;convolutionneuralnetwork收稿日期:20170304.网址:www.zjujournals.com/eng/fileup/HTML/201803013.htm基金项目:国家自然科学基金资助