基于注意力机制与多元特征融合的中文文本分类方法研究

《基于注意力机制与多元特征融合的中文文本分类方法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、工学硕士学位论文基于注意力机制与多元特征融合的中文文本分类方法研究侯永进哈尔滨理工大学2018年3月国内图书分类号：TP391.1工学硕士学位论文基于注意力机制与多元特征融合的中文文本分类方法研究硕士研究生：侯永进导师：谢金宝申请学位级别：工学硕士学科、专业：信号与信息处理所在单位：电气与电子工程学院答辩日期：2018年3月授予学位单位：哈尔滨理工大学ClassifiedIndex:TP391.1DissertationfortheMasterDegreeinEngineeringResearcho

2、nChineseTextClassificationMethodBasedonAttentionMechanismandMulti-featureFusionCandidate：HouYongjinSupervisor：XieJinbaoAcademicDegreeAppliedfor：MasterofEngineeringSpecialtiy：SignalandInformationProcessingDateofOralExamination：March,2018HarbinUniversity

3、ofScienceandUniversity：Technology哈尔滨理工大学硕士学位论文原创性声明本人郑重声明：此处所提交的硕士学位论文《基于注意力机制与多元特征融合的中文文本分类研究》，是本人在导师指导下，在哈尔滨理工大学攻读硕士学位期间独立进行研究工作所取得的成果。据本人所知，论文中除已注明部分外不包含他人已发表或撰写过的研究成果。对本文研究工作做出贡献的个人和集体，均已在文中以明确方式注明。本声明的法律结果将完全由本人承担。作者签名：侯永进日期：2018年3月29日哈尔滨理工大学硕士学位论

4、文使用授权书《基于注意力机制与多元特征融合的中文文本分类方法研究》系本人在哈尔滨理工大学攻读硕士学位期间在导师指导下完成的硕士学位论文。本论文的研究成果归哈尔滨理工大学所有，本论文的研究内容不得以其它单位的名义发表。本人完全了解哈尔滨理工大学关于保存、使用学位论文的规定，同意学校保留并向有关部门提交论文和电子版本，允许论文被查阅和借阅。本人授权哈尔滨理工大学可以采用影印、缩印或其他复制手段保存论文，可以公布论文的全部或部分内容。本学位论文属于保密，在年解密后适用授权书。不保密√。(请在以上相应方框内

5、打√)作者签名：侯永进日期：2018年3月29日导师签名：谢金宝日期：2018年3月29日基于注意力机制与多元特征融合的中文文本分类方法研究摘要中文文本分类作为搜索引擎的关键基础技术，对于高效而充分地从互联网上巨量的中文文本信息中挖掘出高价值中文文本信息，以满足社会发展的需求具有十分重要的作用与价值。文本特征的提取直接地影响中文文本分类系统的性能，是文本分类中的核心技术基础之一。通过设计、实现新型的基于深度学习的文本特征提取算法模型来更好地识别中文文本特征，从而提高系统对中文文本特征的识别能力，具有

6、十分重要的价值与意义。论文以基于深度学习的中文文本分类为主线，对基于卷积神经网络、长短期记忆网络、注意力机制和多元特征融合等模型的中文文本特征提取算法进行了深入地研究。针对中文文本分类任务中，不同文本特征对文本类别识别贡献不同的问题，提出一种基于语义理解的注意力算法模型。通过对相邻两个时间步的文本数据的特征学习结果进一步融合与学习来产生注意力权重。针对中文文本类别识别中不同文本元素发挥作用不同的问题，提出一种特征差异强化注意力算法模型。通过生成的注意力权重，使重要的文本元素在文本识别中发挥更加突出的

7、作用。针对重要文本特征在中文文本中位置分布分散、稀疏的问题，提出一种多元特征融合中文文本分类模型。通过将语义理解注意力算法模型，长短期记忆网络(LSTM)卷积神经网络(CNN)相结合以更加全面、细致地提取文本特征。针对中文文本重点特征在文本中分布不均匀的问题，提出一种特征强化融合中文文本分类模型。通过双层LSTM与CNN对注意力机制提取的特征逐级强化来获得包含特征信息量更丰富、更全面的文本特征。通过中文文本分类实验验证了提出的四种算法模型的有效性。关键词中文文本分类；多元特征融合；注意力机制；长短期

8、记忆网络；卷积神经网络-I-ResearchonChineseTextClassificationMethodBasedonAttentionMechanismandMulti-featureFusionAbstractAsthekeytechnologyofsearchengine,ChinesetextcategorizationplaysaveryimportantroleandvalueinmininghighvalueChinesetextinformati