隐马尔可夫模型Hidden Markov model.ppt

《隐马尔可夫模型Hidden Markov model.ppt》由会员上传分享，免费在线阅读，更多相关内容在PPT专区-天天文库。

1、隐马尔可夫模型HiddenMarkovmodel周潇2021/8/311知识管理与数据分析实验室内容框架2021/8/31知识管理与数据分析实验室2隐马尔科夫模型的由来隐马尔科夫模型的基本理论及实例隐马尔科夫模型的三个基本算法隐马尔科夫模型的应用4123隐马尔可夫模型（HMM）的由来1870年，俄国有机化学家VladimirV.Markovnikov第一次提出MarkovModel（MM）Baum及他的同事于60年代末70年代初提出隐马尔可夫理论，并用于语音识别80年代末90年代初HMM被用于计算

2、生物学目前已成功用于人脸识别、手写识别领域2021/8/31知识管理与数据分析实验室3内容框架2021/8/31知识管理与数据分析实验室4隐马尔科夫模型的由来隐马尔科夫模型的基本理论及实例隐马尔科夫模型的三个基本算法隐马尔科夫模型的应用41232021/8/31知识管理与数据分析实验室5隐马尔可夫模型的基本理论马尔可夫性马尔可夫过程马尔可夫链隐马尔可夫模型马尔可夫性如果一个过程的“将来”仅依赖“现在”而不依赖“过去”，则此过程具有马尔可夫性,或称此过程为马尔可夫过程。用公式表示：X(t+1)=f(

3、X(t))2021/8/31知识管理与数据分析实验室6马尔科夫过程过程或系统在时刻T0所处状态为已知的条件下，过程在时刻T>T0所处状态的条件分布与过程在时刻t0之前所处的状态无关。通俗的说，就是在已经知道过程“现在”的条件下，其“将来”不依赖于“过去”。2021/8/31知识管理与数据分析实验室7马尔科夫链时间和状态都离散的马尔科夫过程称为马尔科夫链记作{Xn=X(n),n=0,1,2,…}在时间集T1={0,1,2,…}上对离散状态的过程相继观察的结果链的状态空间记做I={a1,a2,…},a

4、i∈R.条件概率Pij(m,m+n)=P{Xm+n=aj

5、Xm=ai}为马氏链在时刻m处于状态ai条件下，在时刻m+n转移到状态aj的转移概率。2021/8/31知识管理与数据分析实验室8隐马尔科夫模型HMM是一个双重随机过程，两个组成部分：马尔可夫链：描述状态的转移，用转移概率描述。一般随机过程：描述状态与观察序列间的关系，用观察值概率描述。2021/8/31知识管理与数据分析实验室9隐马尔科夫模型的组成2021/8/31知识管理与数据分析实验室10Markov链（,A）随机过程（B）状态序列

6、观察值序列q1,q2,...,qTo1,o2,...,oT一个实验——球缸模型设有N个缸，每个缸中装有很多彩球，球的颜色由一组概率分布描述。实验进行方式如下根据某个初始概率分布，随机选择N个缸中的一个，例如第I个缸。根据这个缸中彩球颜色的概率分布，随机选择一个球，记下球的颜色，记为O1，再把球放回缸中。根据描述缸的转移的概率分布，随机选择下一口缸，重复步骤1。最后我们可以得到一个描述球的颜色的序列O1,O2,…，称为观察值序列。2021/8/31知识管理与数据分析实验室11球缸模型示意图2021/

7、8/31知识管理与数据分析实验室12观测到的球序列缸3缸1缸2通道关于球缸模型的说明缸之间的转移不能被直接观察到从缸中所选取的球的颜色和缸并不是一一对应的每次选取哪个缸由一组转移概率决定2021/8/31知识管理与数据分析实验室13HMM中状态与观测的对应关系示意图2021/8/31知识管理与数据分析实验室14HMM的基本要素2021/8/31知识管理与数据分析实验室15用模型五元组＝（N,M,π，A，B）用来描述HMM，或简写为=(π，A，B)2021/8/31知识管理与数据分析实验室16HMM

8、可解决的问题给定观测序列O=O1O2O3…Ot和模型参数λ=(A,B,π)，怎样寻找某种意义上最优的隐状态序列。此问题主要用Viterbi算法。给定观测序列O=O1O2O3…Ot和模型参数λ=(A,B,π)，怎样有效计算某一观测序列的概率。此问题主要用向前向后算法。怎样调整模型参数λ=(A,B,π)，使观测序列O=O1O2O3…Ot的概率最大。此问题主要用Baum-Welch算法。评估问题解码问题学习问题内容框架2021/8/31知识管理与数据分析实验室17隐马尔科夫模型的由来隐马尔科夫模型的基本

9、理论及实例隐马尔科夫模型的三个基本算法隐马尔科夫模型的应用4123向前算法及向后算法向前算法及向后算法主要解决评估问题，即用来计算给定一个观测值序列O以及一个模型λ时，由模型λ产生出观测值序列O的概率。2021/8/31知识管理与数据分析实验室18向前算法向前变量它的含义是，给定模型λ，时刻t。处在状态i，并且部分观察序列为的概率显然当已知时根据，迭代计算最后根据公式求出概率。2021/8/31知识管理与数据分析实验室19计算实例：抛掷硬币问题，计算观察到(HHT)的概率2021/