欢迎来到天天文库
浏览记录
ID:22950913
大小:1.27 MB
页数:93页
时间:2018-11-02
《语音识别htk代码学习手册》由会员上传分享,免费在线阅读,更多相关内容在工程资料-天天文库。
1、专业技术资料整理HMM的理论基础一、HMM定义1. N:模型中状态的数目,记t时刻Markov链所处的状态为2. M:每个状态对应的可能的观察数目,记t时刻观察到的观察值为3. :初始状态概率矢量,,,4. A:状态转移概率矩阵,,,5. B:观察值概率矩阵(适用于离散HMM),,,;对于连续分布的HMM,记t时刻的观察值概率为一个离散型的HMM模型可以简约的记为。二、关于语音识别的HMM的三个基本问题1.已知观察序列和模型参数,如何有效的计算。a.直接计算 2-1WORD格式可编辑专业
2、技术资料整理当N=5,T=100时大概需进行次乘法!b.前向算法定义t时刻的前向变量(forwardvariable),可以通过迭代的方法来计算各个时刻的前向变量:1)初始化(Initialization)当t=1时 2-22)递归(Induction)当时 即: 2-33)终结(Termination) 2-4乘法次数大约为:N2TWORD格式可编辑专业技术资料整理c.后向算法定义t时刻的后向变量(backwardvariable),可以通过迭代的方法来计算各个时刻的后向变量:1)
3、 初始化(Initialization)当t=T时, 2-52) 递归(Induction)当时 即:, 2-63) 终结(Termination) 2-7 乘法计算次数约为:N2T2.已知观察序列和模型参数,在最佳意义上确定一个状态序列。定义一个后验概率变量(posterioriprobabilityvariable)WORD格式可编辑专业技术资料整理 2-7 则最优序列可以通过,
4、2-7求得。不过,这样求得的最优序列有些问题。如果,那么这个最优序列本身就不存在。这里讨论的最佳意义上的最优序列,是使最大化时的确定的状态序列。即,使最大化时确定的状态序列。 定义为t时刻沿一条路径,且,输出观察序列的最大概率,即:2-8 下面介绍迭代计算的Viterbi算法:1) 初始化(Initialization),回溯变量:,2) 递归(Induction)即: 2-8 2-9WORD格式可编辑专业技术资料整理3) 终结(Termination)
5、 2-10 2-114) 回溯状态序列, 2-123.已知观察序列和模型参数,如何调整模型参数使最大。定义3.1给定训练序列和模型,时刻Markov链处在状态和时刻处在状态的概率定义如下 3-1定义3.2给定训练序列和模型,时刻Markov链处在状态的概率定义如下 3-2定义3.3给定训练序列和模型,从状态转移出去的概率为定义3.4给定训练序列和模型,从状态转移到状态的概率为利用Baum-Welch重估算法可以得到使局部最大时的参数更新公式。1.
6、 Baum-Welch重估公式的理论基础引理3.1设,,为正实数,,,为非负实数,那么,由对数函数的凹特性,有如下结论WORD格式可编辑专业技术资料整理 3-3定义辅助函数如下 3-4其中,为更新前模型参数,为更新后模型参数,为训练序列,为可能的状态序列。利用和引理3.1易得 3-5式3-5构成了重估公式得理论基础,对辅助函数,只要能够找到,使,从而,这样,更新后的模型在拟和训练序列方面就比更新前的模型要好,使最大而得到的的参数更新公式就称之为Baum-Welch重估公式。引理3.2,,在的约束条件下,函数的
7、唯一最大值点为。证明如下 求最大值WORD格式可编辑专业技术资料整理令 得: ,同理可证:利用凹函数特性可知此最大值唯一。2. 离散HMM模型的重估公式HTK内存管理一、 HTK内存管理概述C语言编程中,遇到的关于内存分配和释放的问题主要有如下两个方面。第一是指针维护问题。试想,你写的一个程序执行了一系列内存空间分配(通常是由malloc函数完成)操作,为了能够在以后适当的时候(通常是你不再需要那些内存时)可以将分配的内存空间释放(通常是由free函数完成),你必须小心谨慎的维护好这些指向分配的内存空间的指针。有经验的程序员大概都会有这样的
8、感受,维护这些指针并非易
此文档下载收益归作者所有