资源描述:
《隐马尔可夫模型.ppt》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、第四章隐马尔可夫模型(HMM)4.1马尔可夫模型的定义4.2隐马尔可夫模型的定义4.3隐马尔可夫模型的参数1870年,俄国有机化学家VladimirV.Markovnikov第一次提出马尔可夫模型HMM的由来马尔可夫性如果一个过程的“将来”仅依赖“现在”而不依赖“过去”,则此过程具有马尔可夫性,或称此过程为马尔可夫过程X(t+1)=f(X(t))X(n+1)=f(X(n))马尔科夫链时间和状态都离散的马尔科夫过程称为马尔科夫链记作{Sn=S(n),n=0,1,2,…}在时间集T1={0,1,2,…}上对离散状
2、态的过程相继观察的结果链的状态空间记做I={S1,S2,…},Si∈R.条件概率P{Sj
3、Si}为马氏链在时刻m处于状态Si条件下,在时刻m+1转移到状态Sj的转移概率。4.1马尔可夫模型(MM)的定义MM是一个输出符号序列的统计模型,具有N个状态S1,S2,…SN,它按一定的周期从一个状态转移到另外一个状态,每次转移时,输出一个符号。S1S2S3起始状态终止状态a/b输出符号转移到哪一个状态,转移时输出什么符号,分别由状态转移概率和转移时的输出概率来决定。即每一条弧上有一个状态转移概率以及输出概率。aij表
4、示从状态Si转移到状态Sj的概率。S1S2S34.1马尔可夫模型(MM)的定义S1S2S3从一个状态转移出去的概率之和为1。每次转移时输出符号a和b的概率之和为1。一个关于天气的3状态马尔可夫模型雨S1多云S2晴S30.40.30.30.60.80.20.20.10.1已知一天(t=1)的天气是晴(S3),问:其后7天的天气为“晴,晴,雨,雨,晴,多云,晴”的概率是多少?观察序列O={S3,S3,S3,S1,S1,S3,S2,S3}对应时间t=1,2,3,4,5,6,7,8一般情况下,只能观察到输出符号序列(
5、ab),而不能观测到状态之间如何转移(状态转移概率)和状态的分布(状态的概率),所以称为隐藏的马尔可夫模型。语音信号是一个可观察的序列:它是由大脑中的思维(不可观测)及语言需要和语法知识(不可观测)所发出的参数流。4.2隐马尔可夫模型的定义球和缸S1SNS2P(red)=b1(1)P(yellow)=b1(2)P(bule)=b1(3)P(green)=b1(4)P(black)=b1(M)P(red)=b2(1)P(yellow)=b2(2)P(bule)=b2(3)P(green)=b2(4)P(blac
6、k)=b2(M)P(red)=bN(1)P(yellow)=bN(2)P(bule)=bN(3)P(green)=bN(4)P(black)=bN(M)观察序列O={绿,绿,蓝,红,红,黄,…..蓝}设有N个缸,每个缸中装有很多彩色的球,不同颜色的球(M)的多少由一组概率分布来描述,根据某个初始概率分布,随机选择一个缸,例如第i个缸,再根据这个缸中彩色球颜色的概率分布,随机选择一个球,记O1,再把球放回缸中。根据缸的转移概率,选择下一个缸,例如第j个缸。再根据这个缸中彩色球颜色的概率分布,随机选择一个球,记O
7、2,再把球放回缸中。最后得到描述球颜色的序列O1O2,成为观察值序列,但每次选取的缸和缸之间的转移并不能直接观察,被隐藏。从S1到S3,并且输出aab,可能的路径有三种:S1S1S2S3S1S2S2S3S1S1S1S30.3×0.8×0.5×1×0.6×0.5=0.0360.5×1×0.4×0.3×0.6×0.5=0.0180.3×0.8×0.3×0.8×0.2×0=0S1S2S3设观察到的输出符号序列是aab。试求aab的输出概率?由于是隐HMM模型,不知输出aab时,到底是经过了哪一条不同状态组成的路径,
8、因此,求aab的输出概率时,将每一种可能路径的的输出概率相加得到的总的概率值作为aab的输出概率值:0.036+0.018+0=0.0541.HMM包含两个随机过程:(1)马尔可夫链:一个随机过程描述的状态(S1,S2,S3)和状态转移序列(状态转移序列S1S1S2S3、S1S2S2S3和S1S1S1S3等);(2)一个随机过程描述状态和观察值之间的统计对应关系(每次转移时输出的符号组成的符号序列,如,aab)。总结转移中输出符号的概率矩阵P32.HMM包含三个概率矩阵:每个状态存在的概率矩阵P1状态之间转移
9、的概率矩阵P23.一个输出概率:将每一种可能路径的的输出概率相加得到的总的概率值作为输出概率。4.3隐马尔可夫模型的参数模型中状态的数目。状态的集合每个状态对应的观测符号数。观测符号集合观测符号序列的长度,观测符号序列状态转移概率分布状态的观测符号概率分布初始状态的概率分布HMM的基本要素参数含义实例N状态数目缸的数目M每个状态可能的观察值数目彩球颜色数目A与时间无关的状态转移概率矩阵在选定某个缸的