多层次语义模型在多轮对话系统中的研究与实现

《多层次语义模型在多轮对话系统中的研究与实现》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、硕士学位论文多层次语义模型在多轮对话系统中的研究与实现作者姓名甄江杰学科专业软件工程指导教师朱金辉副教授所在学院软件学院论文提交日期2018年5月AStudyAndImplementationofMulti-levelSemanticsModelforMulti-turnDialogueSystemADissertationSubmittedfortheDegreeofMasterCandidate：ZhenJiangjieSupervisor：AssosicateProf.ZhuJinhuiSouthChinaUniversityofTechnologyGuang

2、zhou,China分类号：ＴＰ3学校代号：10561学号：201520134521华南理工大学硕士学位论文多层次语义模型在多轮对话系统中的研究与实现作者姓名：甄江杰指导教师姓名、职称：朱金辉副教授申请学位级别：工学硕士学科专业名称：软件工程研究方向：机器学习论文提交日期：2018年5月18日论文答辩日期：2018年5月31日学位授予单位：华南理工大学学位授予日期：年月日答辩委员会成员：主席：闵华清委员：蔡毅、杜卿、陈俊颖、饶洋辉华南理工大学学位论文原创性声明本人郑重声明：所呈交的论文是本人在导师的指导下独立进行研究所取得的研究成果。除了文中特别加以标注引用的内容外

3、，本论文不包含任何其他个人或集体已经发表或撰写的成果作品。对本文的研究做出重要贡献的个人和集体，均已在文中以明确方式标明。本人完全意识到本声明的法律后果由本人承担。作者签名：日期：年月日学位论文版权使用授权书本学位论文作者完全了解学校有关保留、使用学位论文的规定，即：研究生在校攻读学位期间论文工作的知识产权单位属华南理工大学。学校有权保存并向国家有关部门或机构送交论文的复印件和电子版，允许学位论文被查阅（除在保密期内的保密论文外）；学校可以公布学位论文的全部或部分内容，可以允许采用影印、缩印或其它复制手段保存、汇编学位论文。本人电子文档的内容和纸质论文的内容相一致。

4、本学位论文属于：□保密，（校保密委员会审定为涉密学位时间：年月日）于年月日解密后适用本授权书。□不保密,同意在校园网上发布，供校内师生和与学校有共享协议的单位浏览；同意将本人学位论文提交中国学术期刊(光盘版)电子杂志社全文出版和编入CNKI《中国知识资源总库》，传播学位论文的全部或部分内容。(请在以上相应方框内打“√”)作者签名：日期：指导教师签名：日期：作者联系电话：13580388701电子邮箱：moevery@gmail.com联系地址(含邮编)：华南理工大学邮编：510006摘要使用计算机理解并回复具有复杂抽象信息的对话内容是一个具有挑战性的任务。传统的基于

5、模板或者统计学的对话机器人实现缺乏灵活性与扩展性，并且这些方法实际上只是对语句表层的处理，计算机依然没有真正“理解”用户输入。近年来语音交互的模型开始替代传统的UI界面，语音助手成为手机出厂的标配工具，智能音箱也开始进入人们的视野，成为家庭的一员。智能语音助手现在具备和智能家居交互的功能，也可以和用户进行闲聊。作为这些智能助手的“神经中枢”，自然语音处理模块扮演着异常重要的角色，而近年来的新的神经网络方法在这一领域发挥了强大的作用。随着计算机算力的提升，GPU加速驱动了使用神经网络模型处理对话系统的研究。在本文中，结合深度学习技术和传统的信息抽取技术，通过三个子模型

6、，从词序列、语句序列和关键词中提取不同维度的信息，用于开放领域检索式对话系统的构建。本文首先提出的是词序列模型，模型使用循环神经网络技术对上下文和候选回复的语义信息编码到向量，并通过打分模型进行相似度匹配。词序列模型能利用LSTM网络特性，在全局层面捕获语义信息。语句序列模型使用了卷积神经网络技术，依次将历史对话和回复进行卷积操作，并利用注意力机制选择给不同轮次的对话以不同的权重，最后将结果输入到打分模型进行打分。语句模型利用了词模型丢失的轮次信息，和词序列模型优势互补。关键词模型是基于传统的信息抽取方法，使用信息抽取技术建立文档语义向量，并通过向量相似度进行打分。

7、关键词模型的引入解决了词序列网络的记忆“衰退”问题，尤其在处理长上下文时可以发挥重要作用。本文在公开数据集中测试了由三个子模型结合的混合模型，并和基准方案做了对比实验，实验结果表明多层语义模型能够很好地利用历史信息，并在多个指标上显著超出了基准方案。与此同时，本文探讨了子模型超参和模型效果的关系，并使用可视化工具对模型作用原理做进一步分析。关键字：多轮对话系统；检索式聊天机器人；深度学习；IAbstractItisagreatchallengethattomakethecomputerunderstandingtheutterancesthatfullofcom