第9章_隐马尔可夫模型ppt课件.ppt

《第9章_隐马尔可夫模型ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第9章隐马尔可夫模型(HiddenMarkovModels)主要内容马尔可夫模型隐马尔可夫模型隐马尔可夫模型的三个基本问题三个基本问题的求解算法1.前向算法2.Viterbi算法3.向前向后算法隐马尔可夫模型的应用隐马尔可夫模型的一些实际问题隐马尔可夫模型总结马尔可夫链一个系统有N个状态S1，S2，···，Sn，随着时间推移，系统从某一状态转移到另一状态，设qt为时刻t的状态，系统在时刻t处于状态Sj的概率取决于其在时间1，2，···，t-1的状态，该概率为：如果系统在t时间的状态只与其在时间t-1的状态相关，则该系统构成一个离散的一阶马尔可夫链(马尔可夫过程)：即：给定当前的

2、状态，未来的系统状态独立于过去的状态马尔可夫模型如果只考虑独立于时间t的随机过程：其中状态转移概率aij必须满足aij>=0,且，则该随机过程称为马尔可夫模型。独立于时间t：从状态Si到状态Sj的状态转移具有相同的概率，无论这个转移在观测序列中的何时或何地发生。马尔可夫模型可视为随机有限状态自动机该有限状态自动机的每一状态转换都有一相应概率，表示自动机采样这状态转换的可能性假定一段时间的气象可由一个三状态的马尔可夫模型M描述，S1：下雨，S2：多云，S3：晴天，状态转移概率矩阵为：多云下雨晴天例：例（续）如果第一天为晴天，根据这一模型，在今后七天中天气为O=“晴晴雨雨晴云晴”的

3、概率为：可观测状态序列观测概率定义初始概率πi，表示序列是Si的概率：有:若有一可观测序列O，它是状态序列O=Q=｛q1,q2,q3,…,qT｝的概率为：如何学习得到π、A给定K个长度为T的序列，初始概率估计：转移概率的估计：隐马尔可夫模型在MM中，每一个状态代表一个可观察的事件在HMM中观察到的事件是状态的随机函数，因此该模型是一双重随机过程，其中状态转移过程是不可观测（隐蔽）的(马尔可夫链)，而可观测的事件的随机过程是隐蔽的状态转换过程的随机函数(一般随机过程)。实例一房间有N只容器，每只容器中有M种不同颜色的球。根据某一概率分布随机地选择一个初始容器，根据不同颜色球的概率

4、分布从中随机取出一个球，并报告球的颜色。然后根据某一概率分布随机地选择另一只容器，再根据不同颜色球的概率分布从中随机取出一个球，并报告球的颜色，⋯。对房间外的观察者，可观察的过程是不同颜色球的序列，而容器的序列是不可观察的。这里每只容器对应HMM模型中的状态，球的颜色对应于状态的输出符号，从一只容器转向另一只容器对应于状态转换，从一只容器中取球对应于从一状态输出观察符号。实例（续）实验中几个要点不能直接观察容器间的转移；从容器中所选取的球的颜色和容器并不是一一对应的；每次选取哪个容器由一组转移概率决定。HMM的三个假设对于一个随机事件，有一观察值序列：O=O1,O2,…OT该事

5、件隐含着一个状态序列：Q=q1,q2,…qT。假设1：马尔可夫性假设（状态构成一阶马尔可夫链）P(qi

6、qi-1…q1)=P(qi

7、qi-1)假设2：不动性假设（状态与具体时间无关）P(qi+1

8、qi)=P(qj+1

9、qj)，对任意i，j成立假设3：输出独立性假设（输出仅与当前状态有关）p(O1,...,OT

10、q1,...,qT)=Πp(Ot

11、qt)HMM的组成一个隐马尔可夫模型(HMM)是由一个五元组描述的：λ＝（N，M，A，B，π）其中：S={q1,...qN}：N为模型状态个数V={v1,...,vM}：M为不同观测符号个数A={aij}，aij=P(qt=Sj

12、qt-1

13、=Si)：状态转移概率矩阵B={bjk}，bjk=P(Ot=vk

14、qt=Sj)：给定状态下，观察值概率分布矩阵π={πi}，πi=P(q1=Si)：初始状态概率分布状态转移概率矩阵观察值概率分布矩阵初始状态概率分布观察序列产生步骤给定HMM模型λ=(A，B，π)，则观察序列O=O1,O2,…,OT可由以下步骤产生：1.根据初始状态概率分布π=πi,选择一初始状态q1=Si；2.设t=1；3.根据状态Si的输出概率分布bjk,输出Ot=vk；4.根据状态转移概率分布aij,转移到新状态qt+1=Sj；5.设t=t+1,如果t

15、={π，A，B}为给定HMM的参数，令O=O1,...,OT为观测值序列，则有关于隐马尔可夫模型（HMM）的三个基本问题：1.评估问题：对于给定模型，求某个观测值序列的概率P(O

16、λ)；2.解码问题：对于给定模型和观测值序列，求可能性最大的状态序列maxQ{P(Q

17、O,λ)}；3.学习问题：对于给定的一个观测值序列O，调整参数λ，使得观测值出现的概率P(O

18、λ)最大。骰子A骰子B1点1/602点1/61/83点1/61/84点1/63/165点1/63/166点1/63/8公平骰子A与灌铅骰