基于序列数据获取的改进极限学习机算法研究

《基于序列数据获取的改进极限学习机算法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、学校代码10530学号201330111755分类号TP391密级公开硕士学位论文基于序列数据获取的改进极限学习机算法研究学位申请人张晓指导教师李枚毅教授学院名称信息工程学院学科专业软件工程研究方向神经网络与机器学习二〇一六年五月九日ResearchofImprovedExtremeLearningMachineBasedonSequenceDataCandidateZhangXiaoSupervisorLiMeiyi(professor)CollegeCollegeOfInformationEngineeringProgramSoftwareEngineeringSpeciali

2、zationNeuralNetworksandMachineLearningDegreeMasterofEngineeringUniversityXiangtanUniversityDate2016-5-9湘潭大学学位论文原创性声明本人郑重声明：所呈交的论文是本人在导师的指导下独立进行研究所取得的研巧成果。除了文中特别加Ｗ标注引用的内容外，本论文不包含任何其他个人或集体己经发表或撰写的成果作品。对本文的研究做出重要贡。献的个人和集体，均己在文中Ｗ明确方式标明本人完全意识到本声明的法律后果由本人承担。作者签名：曰期；年＾月曰学位论文版权使用授权书本

3、学位论文作者完全了解学校有关保留、使用学位论文的规定，同意学校保留并向国家有关部口或机构送交论文的复印件和电子版，允许论文被查阅和借阅。本人授权湘潭大学可将本学位论文的全部或部分内容编入有关数据库进行检索，可＾＾＾采用影印、缩印或扫描等复制手段保存和汇编本学位论文。涉密论文按学校规定处理。作者签名：日期年日。导师签名；；於曰期鮮ｒ月【曰＾摘要标准极限学习机拥有训练时间短，拟合效果好，泛化性能优，算法简单等优点。但标准极限学习机属于批量处理模型，在对网络模型进行训练时，需要将训练数据同时进行处理。而在现实生活的应用中，训练数据一般是批量形式获得的。在线

4、序列极限学习机可以处理数据是序列化获得的情况，通过不断的迭代计算，更新输出权值。本文对极限学习机和在线序列极限学习机的算法推导和网络模型进行了研究和分析，提出了一种改进的快速序列化极限学习机(FS-ELM)数据训练的算法方案。通过对极限学习机和在线序列极限学习机的算法公式的研究，本文利用正交法输出权值的计算公式，独立出两部分可以相互叠加的矩阵区域。利用相对于训练数据独立的这两部分矩阵，在序列化获取训练数据后，不断的叠加计算这两部分的值。在数据获取完成或需要计算输出权值的值时，再利用输出权值计算公式，计算获得输出权值的值。实验结果表明，在进行训练时，FS-ELM的初始化学习阶段可以接

5、受任意数量的训练数据而不会对训练和测试精度产生影响，并且在保证测试精度与极限学习机以及在线序列极限学习机算法相当情况下，FS-ELM的训练速度相比OS-ELM有明显提高。本文为验证FS-ELM所具有的速度和精度性能，在不同规模数据集上进行了多次较充分的对比实验。极限学习机算法广泛获得应用的部分原因在于其需要人工设定的参数较少。其中，隐层节点数量需要根据训练数据进行手动设置。同时，隐层节点的数量影响着网络模型的泛化能力。本文提出隐层节点平均影响因子的概念，在序列化获取训练数据的同时，更新隐层节点的数量，逐步使得输出权值的总平均影响力达到最低，使网络模型自动达到较好的泛化效果。实验表明

6、，利用文中提出的序列化剪枝算法，可以自动获得较好的隐层节点数量，使得网络模型有较好的拟合和泛化能力。此外，因为本文提出的序列化极限学习机算法中的部分矩阵相对于训练数据是独立的。因此，很容易可以将本文提出的算法在基于Hadoop的Map-Reduce计算框架中实现。利用分布式的Map-Reduce框架，训练模型可以处理更大的无法在单机中实现的训练数据量。同时，网络模型训练效率则可以借助Hadoop平台的横向扩展能力得到较好的提高。关键字：极限学习机；在线序列极限学习机；剪枝算法；Map-Reduce；数据分类；数据回归分析；平均影响因子IAbstractComparedwithoth

7、erneuralnetwork,standardExtremeLearningMachine(ELM)haslesstrainingtime,goodfittingeffect,perfectgeneralization,excellentperformanceandsimplealgorithm.However,thelimitofstandardELMisthatbelongstothebatchprocessingmodel,whenthenetworkmode