基于卷积神经网络的短文本分类方法研究

《基于卷积神经网络的短文本分类方法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、￣单位代码１０６３５戶＆学号１１２０１３３３３００２０８９１（處據乂聲硕：ｔ学位论文基于卷积神经网络的短文本分类方法研究论文作者：蔡慧苹指导教师：王丽丹教授学科专业：信号与信息处理研究方向：计算智能与信息安全提交论文日期：２０１６年４月２０日论文答辩日期：２０１６年５月２７日学位授予单位：西南大学中国？重庆２０１６年５月独创性声明学位论文题目；基于卷巧神经闷盛的括女太分奥方法巧兔本人提空的学位论文是在导师指导下进行的硏究工作及取得的

2、研巧成果。论文中引巧他人己经发表或出版过的研巧化果，文中５加了特則标注。巧本巧究及学位论文撰写曾椒出贡献的老师、朋友、同仁巧义中作了巧确说巧井表示東必感谢。学位论文作者巫字曰閣：年ｂ月ｅ曰学位论文版权使用授权书本学化论文作者完全了解西南大学有关楠留、巧巧学位跑义的规定，有权巧留并巧国惠有关部口或机构逗交论义的复巧件和磁盘，允许论文被査阅和借阔。本人授极西南大学硏巧生院（算）可凹将学化论文的全部或部分巧容编入有关数捂库进行检索Ｉ可科巧巧影巧、缩巧或扫描等复制手段保存、汇编

3、学位论文，（保密巧学位论文在稱带后這用本授化书：，本论文□不巧巧，□保密期眼至年月止）。■＊学位论文作者签名；普據气导师篮名：革宇日期；年ｔ月Ｓ日签字日期：么口ｆ＾年６月ｂ日目录摘要ＩＡＢＳＴＲＡＣＴＩｌｌ１１第章引言１．１研究背景及意义１１．２国内外的研究现状２１．３论文的研究内容４１．４论文的结构安排５第２章相关基本理论介绍７２．１中文分词方法７２．２短文本的传统特征提取方法９２．３短文本的分布式特征提取方法１

4、４２．４短文本分类算法１７２５０．本章小结２第３章数据预处ｍｓ特征提取方法研究２１３．１任务总体流程２１３２数２１．据预处理３．３中文分词２２３．４分布式特征提取方法２２３．５本章小结２４第４章卷积神经网络分类模型研究２５４．１卷积神经网络模型结构设计２５４．２卷积神经网络模型的训练２８４．３实验过程２９４４３０．实验结果与分析４．５卷积神经网络模型的性能分析３１４６．本章小结３３第５章总结与展望３５５．１本文的

5、主要工作３５５２一３５．下步的工作思路参考文献３７致谢４３攻读硕±学位期脈发表的论文４５攻读硕±学位期４５ｆＳｌ参与的科研项０摘要基于卷积神经网络的短文本分类方法研究信号与信息处理专业硕±研究生指导教师：王丽丹教授摘要近年来，伴随着计算机技术、互联网及移动互联网产业的高速发展，网民数量呈现出了爆发式的增长，Ｗ微信、微博等社交平台为代表的互联网产品也日趋成熟。随着大量活跃用户加入其中，每天都有数Ｗ亿计的短文本数据在运些平台上产生，如聊天记录、

6、用户评论等。无论是对于政府部口、科研单位还是互联网服务提供商来说，能够正确地应用短文本分类技术，从而挖掘出蕴藏在数据背后用户的真实意图，具有非常重要的研究意义和巨大的应用价值。００６一自２年深度学习概念第次被提出，已经在图像识别和语音识别等领域中取得了极大的突破。大量研究成果都证明了相比于传统的机器学习算法，深度学习理论中的诸多模型都能够获得更加出色的性能。本文尝试探索更加适合短文本数据的特征提取方法，并且将深度学习理论中的卷积神经网络模型引入到短文本分类技术中来。为此，本文主要做了

7、Ｗ下工作：首先，本文详细阐述了短文本分类任务中的详细流程，具体包括数据预处理、中文分词、特征提取、分类算法研究等步骤。在此基础上，通过对短文本数据自身的特点进一行分析，进步阐述了传统的文本分类方法中所面临的诸多问题，运为后续介绍本文所采用的特征提取和分类模型设计的研究工作奠定了基础。其次，在对短文本进行特征提取时，为了能够更充分地描述词与词在连续低维空间中的语义关系，即提高特征的表达能力，除了原始数据集Ｗ外，在训练中还引入了维基－百科中文数据集。本文并未采用传统的人工构建特征的方式，

8、而是利用ＳｋｉｐＧｒａｍ神经网络语言模型来训练出数据集中每个词的ｗｏｒｄｅｍｂｅｄｄｉｎｇ。再将每条样本中出现的所有ｗｏｒｄｅｍｂｅｄｄｉｎｇ组合为二维特征矩阵的形式，用来代表该条样本的分布式特征。一再次，本文设计了种具有３种不同大小卷积核的卷积神经网络结构，从而能够在一原始输入特征的基础上，进步完成多种局部抽象特征的自动提取过程。此外，在每次Ｉ西南大学硕击