基于深度学习的中文代词消解及其在问答系统中的应用

《基于深度学习的中文代词消解及其在问答系统中的应用》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、硕士学位论文基于深度学习的中文代词消解及其在问答系统中的应用RESEARCHONDEEPLEARNINGBASEDCHINESEPRONOUNRESOLUTIONANDITSAPPLICATIONINQUESTIONANSWERING邹超哈尔滨工业大学2016年6月国内图书分类号：TP391.1学校代码：10213国际图书分类号：004.9密级：公开工程硕士学位论文基于深度学习的中文代词消解及其在问答系统中的应用硕士研究生：邹超导师：王晓龙教授申请学位：工程硕士学科：计算机技术所在单位：计算机科学与技术学院答辩日期：2016年6月

2、授予学位单位：哈尔滨工业大学ClassifiedIndex:TP391.1U.D.C:004.9DissertationfortheMaster’sDegreeinEngineeringRESEARCHONDEEPLEARNINGBASEDCHINESEPRONOUNRESOLUTIONANDITSAPPLICATIONINQUESTIONANSWERINGCandidate：ZouChaoSupervisor：Prof.WangXiaolongAcademicDegreeAppliedfor：MasterofEngineerin

3、gSpeciality：ComputerTechnologyAffiliation：SchoolofComputerScienceandTechnologyDateofDefence：June,2016Degree-Conferring-Institution：HarbinInstituteofTechnology哈尔滨工业大学工程硕士学位论文摘要自然语言中存在的指代和省略现象使得有一些话语独立来看存在语义缺失，这给机器理解带来了巨大的挑战。如何利用上下文信息对话语进行语义恢复是一项重要的研究任务。代词消解是语义恢复的重要方法，目

4、前很多方法还停留在浅层的、显性的语义特征，并没有挖掘更深层次的语义关联。本文使用词向量作为输入，利用深度学习方法挖掘出较深层次的语义特征，实现中文代词消解算法，并应用到问答系统中。首先，研究中文显性代词消解表述对的深层语义特征表示方法。之前的代词消解算法抽取表述对的显性语义特征，如性别、数量，本文引入词向量，表示代词、候选先行语及上下文在语言学和隐含语义方面的特征，并与显性语义特征合并，共同作为表述对特征，训练神经网络分类器，相比于二者单独的使用，性能取得了显著的提升。接着，研究中文零代词消解算法，包括零代词识别和消解两个子任务。

5、本文在零代词识别方面提出了基于循环神经网络、不依赖句法分析的算法；在消解方面沿用了显性代词消解的表述对模型，放弃其中的显性语义特征，增加更多有效的词向量特征，如相关动词和宾语，提出了基于神经网络的零代词消解算法；然后，通过引入长短期记忆网络，计算表述对的更深层语义特征表示，提出了基于长短期记忆网络的进阶消解算法。本文提出的零代词消解算法在识别和消解子任务上超越了基线方法。最后，设计实现了交互式问答系统。其中，提出了基于词语共现模型的省略恢复算法，与代词消解一同构成语义补全模块，应用到系统中，利用短期历史提问信息，从指代和省略两个方

6、面，对待检索问题进行语义补全，使用补全语义的待检索问题进行检索，提高系统检索的准确性。关键词：代词消解；深度学习；词向量；神经网络；问答系统-I-哈尔滨工业大学工程硕士学位论文AbstractThephenomenonofanaphoraandellipsisbringchallengestomachinesunderstandingnaturallanguage,thereforepronounresolution,whichcansolvetheproblemofsemanticvacancy,hasbeenpaidmorea

7、ndmoreattentionto.ThisthesisproposesnovelmethodstoresolveChinesepronounwithdeepsemanticfeaturesrepresentedbywordembeddingandachievesacompleting-semanticmoduleinquestionansweringsystem.Firstly,thisthesisfocusesonChineseovertpronounresolutionandcompletesthementionpairmo

8、del.Inthispart,thethesismakesanimprovementonexplicitsemanticfeaturesextractedfromexperience,andcombineswithhiddensemanticfea