基于EM改进算法的高斯混合模型参数估计

《基于EM改进算法的高斯混合模型参数估计》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、：０２１２．分类号１单位代码：１０３３５密级：无学号：２１５３５０７６硕士学位论文中文论文题目：基于ＥＭ改进算法的高斯混合模型参数估计ｌｏｒ？英文论文题目：ＴｈｅＩｍｒｏｖｅｄＥＭＡｇｉｔｈｍＢａｓｅｄＧａｕｓｐＭｏｄｅ‘ｓｉａｎＭｉｘｔｕｒｅｌＰａｒａｍｅｔｅｒｓＥｓｔｉｍａｔｉｏｎ申请人姓名：ｆ＃指导教师：苏中根教授专业名称：统计学所在学院：数学科学学院论文提交日期２０１８年３月浙江大学研宄生学位论文独创性声明本人声明所呈交的学

2、位论文是本人在导师指导下进行的研究工作及取得的研宄成果。除了文中特别加以标注和致谢的地方外，论文中不包含其他人已经发表或撰写过的研宄成一果。与我，也不包含为获得浙江大学或其他教育机构的学位或证书而使用过的材料同工作的同志对本研宄所做的任何贡献均己在论文中作了明确的说明并表示谢意。％戌年：学位论文作者签名：签字日期：３月ｊ日学位论文版权使用授权书本学位论文作者完全了解：＾折江大学有权保留并向国家有关部门或机构送交本论文的复印件和磁盘。，允许论文被查阅和借阅本人授权浙江大学可以将学位论文的全部、或部分内容

3、编入有关数据库进行检索和传播，可以采用影印缩印或扫描等复制手段保存、汇编学位论文。（保密的学位论文在解密后适用本授权书）：学位论文作者签名：导师签名签字日期：ｇ年》月，日签字日期：今＾年月＾日今浙江大学硕士学位论文ｍｍ摘要“”“”跟随大数据与人工智能的热潮，高斯混合模型由于能够很好地刻画数据的空间分布及其特性．，受到了统计学界和计算机界的重视它可以使用在监督、无监督、半监督学习中在很多领域都得到了广泛应用．ＥＭ算法是高斯混合模型参数估计的经典迭代算，并一法具有简单实用些缺点比如：、性质优良

4、等特点，但其本身也存在着，对参数初始值敏，感．、不能确保收敛到全局最优、需要提前给定隐变量的所有可能取值等因此，本文基于高斯混合模型，针对无监督学习和半监督学习任务，从两个方面分别对ＥＭ算法做了改进并得到了以下成果．ＦＣＭ—首先，本基于密度确，针对无监督学习任务文从三个方面对算法进行了改进ｅ－Ｂｅｎ定算法初始聚类中心、增加惩罚项以加快算法收敛速度、使用Ｘｉｉ指数确定最佳聚类数，提出了ＩＦＣＭ算法．然后，基于无监督高斯混合模型，使用ＩＦＣＭ算法为ＥＭ算法提供迭代过程中的参数初始值和隐变量的所有可能取值－，进

5、而得到了ＩＦＣＭＥＭ算法并分析了该，－算法的优势．最后ＣＭＥＭ算法，从模拟和实证两方面验证了相比于其他ＥＭ改进算法ＩＦ，估计参数的效果和性能均更好，迭代次数少，得到的参数估计值对应的无监督高斯混合模型的聚类效果也最好．其次，针对半监督学习任务，基于高斯混合模型，本文将最大熵原理应用到ＥＭ算法中，解决了隐变量的后验概率估计过度依赖于待估参数的问题进而提出了ＭＥ－ＥＭ，，算法并证一定条件下以收敛到全局最优明了该算法的本质是确定性退火算法即在．当标记样，其可，本不能大致反映出数据的真实分布时ＥＭＥ－ＥＭ算法提

6、，相比于算法，Ｍ高了收敛到全局最优的概率，提升了估计参数的效果及稳健性．最后，从模拟和实证两方面验证了该算法优于ＥＭ算法其得到的参数估计值对应的半监督高斯混合模型的聚类效果也得到了提升．，ＥＭ－－关键词：高斯混合模型ＩＦＣＭＥＭＥＥＭ；算法；算法；Ｍ算法；确定性退九Ｉ浙江大学硕士学位论文ＡＢＳＴＲＡＣＴＡｂｓｔｒａｃｔＷｔｈｅｄｅｖｅｌｏｍｅｎｔｏｆｂｉｄａｔａａｎｄａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｅｎｃｅｔｅｃｈｎｏｌｏｉｅｓＧａｕｓｓｉａｎｍｉｘｔｕｒｅｉｔｈｐｇｇｇ，ｍｏ

7、ｄｅｌＧＭＭｈａｓａｔｔｒａｃｔｅｄｅｘｔｅｎｓｉｖｅａｔｔｅｎｔｉｏｎｉｎｔｈｅｓｔａｔｉｓｔｉｃｓａｎｄｃｏｍｕｔｅｒｉｎｄｕｓｔｒｉｅｓｄｕｅｔｏｉｔｓ（）ｐａｂｉｌｉｔｔｈａｔｃａｎｗｅｌｌｄｅｉｃｔｔｈｅｓａｔｉａｌｄｉｓｔｒｉｂｕｔｉｏｎａｎｄｃｈａｒａｃｔｅｒｉｓｔｉｃｓｏｆｍａｎｄａｔａｓｅｔｓ．Ｉｔｉｓｗｉｄｅｌｙｐｐｙｙｓｅｄｎｕｎｓｕ－ｕｉｍａｃｈｉｎｅｌｅａｒｎｉｎｇｗｈｉｃｈｃｏｎｔａｉｎｓｓｕｅｒｖｉｓｅｄｅｒｖｉｓｅｄａｎｄ

8、ｓｅｍｉｓｕｅｒｖｉｓｅｄｌｅａｒｎｉｎｐ，ｐｐｇ，ａｎｄｔｔ－ｔｔｃａｎｂｅｕｓｅｄｉｎｍａｎｆｉｅｌｄｓ．ＥｘｅｃａｉｏｎｍａｘｉｍｉｚａｉｏｎＥＭａｌｏｒｉｔｈｍｉｓａｃｌａｓｓｉｃａｌ