基于深层神经网络的语音识别声学建模研究

《基于深层神经网络的语音识别声学建模研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、中圈料孽敢求大誊博士学位论文万方数据基于深层神经网络的语音识别声学建模研究作者姓名：学科专业：导师姓名：完成时间：周盼信号与信息处理刘庆峰教授戴礼荣教授二O一四年五月万方数据UniversityofScienceandTechnologyofChinaAdissertationfordoctordegreeResearchonAcousticModelingforSpeechRecognitionBasedonDeepNeuralNetworksAuthor：PanZhouSpeciality：SignalandInformati

2、onProcessingSupervisor：rinlSned1lme：”‘‘1rn‘Prof．QingfengLiuProf．LirongDaiMay,2014万方数据中国科学技术大学学位论文原创性声明本人声明所呈交的学位论文，是本人在导师指导下进行研究工作所取得的成果。除已特另UDil以标注和致谢的地方外，论文中不包含任何他人已经发表或撰写过的研究成果。与我一同工作的同志对本研究所做的贡献均已在论文中作了明确的说明。作者签名：签字日期：b／妒．厶乙中国科学技术大学学位论文授权使用声明作为申请学位的条件之一，学位论文著作权拥有者

3、授权中国科学技术大学拥有学位论文的部分使用权，即：学校有权按有关规定向国家有关部门或机构送交论文的复印件和电子版，允许论文被查阅和借阅，可以将学位论文编入《中国学位论文全文数据库》等有关数据库进行检索，可以采用影印、缩印或扫描等复制手段保存、汇编学位论文。本人提交的电子文档的内容和纸质论文的内容相一致。保密的学位论文在解密后也遵守此规定。，Ⅳ公开口保密——年作者签名：导师签名：名r锄沙7删7签字日期：弘15[：鱼：z／万方数据摘要摘要语音识别的终极目标是使人与机器之间能够像人与人之间一样自如的交流。声学模型性能的好坏直接影响到整个

4、语音识别系统的准确性。过去几十年，高斯混合模型-隐马尔科夫模型(GaussianMixtureModel-HiddenMarkovModel，GMM．HMM)在语音识别声学建模方法中一直起着主导作用。GMM-HMM框架由于具备较完善的理论体系，包括区分性训练、自适应等成熟的配套算法，以及HTK等开源工具，而受到众多研究者的追捧。近年来，深度学习(DeepLearning)理论在机器学习领域兴起，其对语音识别方向也产生了深远影响。基于深度神经网络一隐马尔科夫模型(DeepNeuralNetwork-HiddenMarkovModel

5、，DNN．HMM)的声学模型混合建模方案迅速取代传统的GMM—HMM框架，成为当前主流语音识别系统的标配，基于DNN—HMM新框架的相关算法研究也受到语音识别领域的广泛关注。在这样的背景下，本论文围绕深度神经网络声学建模及其在自动语音识别中的应用，进行了较系统而深入的研究。首先，为了提升基于神经网络的声学建模的能力，本文分别从特征域和模型域两个方面进行了探索。在特征域，本文借鉴传统TANDEM的方法将神经网络看成一种提取后验概率特征的预处理器，并基于所提取的区分性特征进行GMM-HMM建模。本论文提出了一种基于竞争信息的TANDE

6、M系统改进方法。具体来说，我们首先基于解码过程中所生成的词图挑选训练样本的竞争信息，并基于该竞争样本训练相应的“竞争信息”神经网络，以对传统的只基于正例进行神经网络训练的TANDEM算法起到增强作用。接着，在直接使用神经网络作为声学分类器的模型域方面，本文针对中文语音识别系统中的多流声学特征，提出了一种中间层融合建模方案，该方案充分利用深度神经网络结构和学习算法的特点，在深度神经网络的中间某隐层进行多个特征流的中层特征融合，并在融合特征的基础上继续进行更高层网络权重的学习。该算法在深度神经网络的框架下有效的利用了多流特征的互补特性

7、，提升了识别系统的性能。然后，本文在深度神经网络声学建模效率方面进行了深入的研究，以解决大规模语音数据声学建模的可应用性问题。面向真实语音识别系统的海量训练数据、深度神经网络的超大规模模型参数、以及模型结构导致的传统训练算法不可并行性，使得深度神经网络的训练效率问题成为实用化语音识别系统的最大瓶颈。针对这样的情况，我们分析了深度神经网络的学习算法，找到影响其效率的主因，并针对这些原因提出了一种新颖的多个深层神经网络联合建模方万方数据摘要案。通过将数据进行聚类，我们可以分开独立的并行训练多个深层神经网络来对各个聚类数据分别进行建模。

8、这种建模方法在交叉熵准则下，相对普通单个深层神经网络建模方法效率的提升是非常明显，在实际的研究应用中具有重要意义。最后，针对我们提出的多深层神经网络联合建模方案，我们进行了进一步的完善。为了验证这一建模框架的切实可行性，同时解决其性能损失问题，我们