资源描述：
《蔡海滨中山大学信息科学与技术学院.ppt》由会员上传分享，免费在线阅读，更多相关内容在PPT专区-天天文库。
1、蔡海滨中山大学信息科学与技术学院隐马尔可夫模型HiddenMarkovmodel目录HMM简介马尔可夫（Markov）链HMM的基本定义HMM的三个基本问题及其算法HMM简介HMM（HiddenMarkovModel隐马尔可夫模型）是一种用参数表示的用于描述随机过程统计特性的概率模型，是一个双重随机过程，由两部分组成：马尔可夫链和一般随机过程。其中马尔可夫链用来描述状态的转移，用转移概率描述。一般随机过程用来描述状态与观察序列间的关系，用观察值概率来描述。对HMM模型，其转换过程是不可观察的，因
2、而称之为“隐”马尔可夫模型HMM的应用领域HMM作为语音信号的一种统计模型，今天正在语言处理各个领域中获得广泛的应用。除此之外，HMM还可以应用于：生物计算计算机视觉生物测定学（Biometrics）手势识别…其他更多的领域Markov链如果一个过程的“将来”仅依赖“现在”而不依赖“过去”，则此过程具有马尔可夫性,或称此过程为马尔可夫过程马尔可夫链是时间和状态参数都离散的马尔可夫过程Markov链的数学定义随机序列Xn,在任一时刻n，它可以处在状态S1,S2,…,SN,且它在m+k时刻所处的状态
3、为qm+k的概率，只与它在m时刻的状态qm有关，而与m时刻以前它所处状态无关，即有：P(Xm+k=qm+k
4、Xm=qm,Xm-1=qm-1,…,X1=q1)=P(Xm+k=qm+k
5、Xm=qm)则称Xn为Markov链.K步转移概率：Pij(m,m+k)=P(qm+k=Sj
6、qm=Si)当Pij与m无关时，即Pij(m,m+k)=Pij(k)此时这个Markov链称为齐次markov链。当k=1时，Pij称为一步转移概率，简称转移概率阴天下雨晴天转移概率矩阵晴天阴天下雨晴天0.500.250.2
7、5阴天0.3750.250.375下雨0.250.1250.625转移概率可以表示成一个转移概率矩阵转移概率矩阵其中，aij=Pij(1),初始概率矢量概率转移矩阵还不足以描述一个markov链，因此还需要引入一个初始概率矢量。其中，HMM的基本定义HMM是在Markov链的基础上发展起来的。由于实际问题比Markov链模型所描述的更为复杂，观察到的时间并不是与状态一一对应的，而是通过一组概率分布相联系，这样的模型称为HMM。它是双重随机过程，其中之一是Markov链，这是基本随机过程，它描述状
8、态的转移。另一个随机过程描述状态和观察值之间的统计对应关系。这样，站在观察者的角度，只能看到观察值，不像Markov链模型中观察值和状态一一对应，因此，不能直接看到状态，而是通过一个随机过程去感知状态的存在及其特性。因而称之为“隐”Markov模型，即HMM。通过“球和缸”实验，可以更好的理解HMM球和缸实验ObservedBallSequence缸3缸1缸2Veil球和缸实验的描述设有N个缸，每个缸中装有很多彩球，球的颜色由一组概率分布描述。实验进行方式如下根据初始概率分布，随机选择N个缸中的
9、一个开始实验根据缸中球颜色的概率分布，随机选择一个球，记球的颜色为O1，并把球放回缸中根据描述缸的转移的概率分布，随机选择下一口缸，重复以上步骤。最后得到一个描述球的颜色的序列O1,O2,…，称为观察值序列O。HMM的定义HMM可由如下五个元素定义：状态的集合观察值集合初始概率矢量状态转移矩阵状态i观察的概率分布以下将一一介绍状态的集合X代表一组状态的集合，其中X={S1,S2,…,SN}状态数为N，并用qt表示t时刻的状态。虽然状态是隐藏的，但对于很多应用来说，有一些物理的意义和状态或者状态集
10、相关，状态内部的联系就是一个状态可以到达其他状态观察值的集合O代表一组可观察符号的集合O={V1,V2,…,vM}M是从每一状态可能输出的不同观察值的数目初始概率矢量初始化状态分布表示初始模型时，每一状态可取的概率状态转移概率分布状态转移概率分布A={aij},这里aij=P{qt+1=Sj
11、qt=si}特殊情况下，每个状态都可以一步达到其他任何状态，这时对任意（i，j），有aij>0。对于其他的HMM，可能aij=0（对于一对或多对i，j）状态i观察概率分布令B={bj(k)},表示状态j输出
12、相应观察值的概率，其中bj(k)=P(Ot=Vk
13、qt=Sj),j:[1,N],k:[1:M]由以上可知，一个HMM可以表示成一个五元组UU={X,O,,A,B}或简写成U={,A,B}上面所述HMM的三个关键元素实际可以分成两部分，其一为Markov链，由和A描述，另一部分是一个随机过程，由B描述HMM的三个基本问题及其算法评估问题解码问题学习问题评估问题给定观察序列O=O1O2…OT和模型U=(A,B,)计算P(O
14、U)。即给定模型和输出观察序列，如何计算从模型生成观察序列的概率。可以把它看
