基于改进MMI的HMM训练算法及其在面部表情识别中的应用.pdf

《基于改进MMI的HMM训练算法及其在面部表情识别中的应用.pdf》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、第29卷第4期北京科技大学学报Vol.29No.42007年4月JournalofuniversityofscienceandtechnologyBeijingApr.2007$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$基于改进MMI的HMM训练算法及其在面部表情识别中的应用杨国亮1，2）王志良2）刘冀伟2）王国江2）陈锋军2）1）江西理工大学机电工程学院，赣州3410002）北京科技大学信息工程学院，北京100083摘要

2、提出一种改进的最大互信息（MMI）准则函数并把它应用于隐马尔可夫模型（~MM）的参数估计，重新推导了~MM的迭代公式.该准则函数相对于原来准则函数定义更为合理，能有效利用训练样本集中的鉴别信息，使得训练数据得到充分利用，提高了~MM的性能.把这种改进的~MM算法应用于面部表情识别，利用改进的光流算法提取面部表情特征向量序列，并利用改进~MM算法和BP神经网络构建了面部表情混合分类器.实验结果表明了该方法能有效提高面部表情识别率，有效解决~MM参数估计问题.关键词最大互信息准则；隐马尔可夫模型；光流算法；

3、面部表情识别分类号TP391隐马尔可夫模型（hiddenMarkovmodel，简称l.lIMMI准则函数［1-2］，目本文考虑的~MM均指左右结构连续的隐马尔~MM）是Baum等人在19世纪60年代提出前在模式识别与图像处理等领域得到了广泛的应可夫模型（C~MM）.用.由于~MM具有很强的动态时间序列建模能设~MM表示为!=｛"，!，B｝，其中"=｛"｝i力，因此在处理时间序列问题上~MM得到广泛的为初始状态概率，且"1=1，"i=0，i!1，!=（aij）关注.传统的~MM参数估计方法采用Baum-

4、为状态转移向量，且"aij=1，B=｛bj（"）｝为观［1-2］，它实际上是一种最大似然法jWelch算法察向量的混合高斯概率密度函数，且b（"）=j（ML）.此外，人们还提出了其他他训练算法，如最大互信息法（maximummutualinformation，"CjlN（"，!jl，"jl），"Cjl=1.#为~MM模型ll［3-5］、最小分类误差法（MCE）［6］、校正训练法MMI）集，#=｛!1，!2，⋯，!V｝，V为~MM个数，NO和（correctivetraining）［7］、最大模型距离法（

5、MMD）［8］MO分别为模型!O的状态数和每个状态所包含的高等，各种方法都具有其自身的优越性和缺点.文献斯混合元个数.训练样本集为0=｛01，01，⋯，12［3-4］提出的基于MMI训练算法将所有训练样本01，02，02，⋯，02，⋯，0V，0V，⋯，0V｝，其中K12K12K12V等同考虑，而实际上在整个训练过程中，不同训练样0O为模型!的第a个训练样本，K为模型!的训aOOO本对~MM参数估计的贡献是不相同的.基于这种OOOOO练样本数，且有0｛"，"，⋯，"O｝，T为观情况，本文定义了一个更为合理

6、的MMI准则函数，a=a，1a，2a，Taa称之为IMMI（improvedmaximummutualinforma-察序列0O的长度.最大互信息准则可以表示为：aKVOtion），推导了~MM参数重估公式，并结合改进的M（#）=lnP（##0）="lnP（!O#0O）="a光流算法，把它应用于面部表情识别.实验结果表O=1a=1K明该方法比MMI和Baum-Welch法性能更好.VOO）P（!O）P（0a!O""lnV（1）O=1a=1O）l基于改进MMI的HMM参数估计"P（!）P（0a!=1算法1

7、假定P（!）=，即每个~MM等概率出现，则OV式（1）可进一步写成：收稿日期：20060104修回日期：20060425基金项目：国家自然科学基金资助项目（No.60573059）VKOV作者简介：杨国亮（1973—），男，讲师，博士研究生；王志良M（#）="｛lnP（0O）-ln"P（0O）"a#!Oa#!｝=1（1956—），男，教授，博士生导师O=1a=1（2）第4期杨国亮等：基于改进MMI的HMM训练算法及其在面部表情识别中的应用·433·式（2）把每个模型对当前模型X的影响同等对待，准则函数中

8、由于把竞争模型概率输出作为惩罚项，O而实际上在不同训练样本作用下每个模型对当前模从而使得基于IMMI的训练算法较之Baum-welch型X的参数估计的贡献是不同的，因此本文引入加算法识别能力得到显著提高.O权得到改进MMI准则函数：1.2基于IMMI的HMM参数估计算法V为了估计HMM参数，下面讨论有约束优化M（A）=ZM（XO，A）=问题：O=1VKOV1KVO｛lnP（0OlX）-E（P（0OlX）TTfO）-ZZaOlnZa）｝M（A