资源描述：
《基于EM算法约束条件下参数的估计》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、第40卷第4期东北师大学报(自然科学版)Vol.40No.42008年12月JournalofNortheastNormalUniversity(NaturalScienceEdition)December2008[文章编号]1000-1832(2008)04-0028-05基于EM算法约束条件下参数的估计孟丽新,刘洪(辽宁科技大学理学院,辽宁鞍山114044)[摘要]讨论了多元正态模型中的参数估计问题.利用EM算法和ECM算法给出了多元正态模型在协方差阵已知或未知的情况下,参数在简单序约束、伞型序约束和递增的凸序约束条件下的极大似然估计.当参数向量不多于三个分量时,给出了显式结果;当参数
2、向量高于三个分量时,给出了求参数极大似然估计的相应线性变换.[关键词]简单序约束;伞型序约束;递增的凸序约束;EM算法[中图分类号]O212[学科代码]110#07[文献标识码]A0引言当研究一些模型时,给参数加上一些约束条件会使研究的问题更具有实际意义.对于序约束条件下参数估计问题近年来已有一些研究.如保序回归方法中PAVA算法可以对简单序约束给出参数的极大似然估计,但是它依赖于协方差阵而又不是对于任何协方差阵2,PAVA算法都可以给出参数的极大似然估计,即该法有一定的局限性.对于参数的约束条件为任意区域时,C1P1Robert&J1T1G1Hwang(1996)提出了一套所谓的优先反馈
3、技巧来计算参数的极大似然估计,但需要马氏链收敛到它的稳定分[1]布.最近C1H1Liu(2000)给出了怎样用EM算法求离散分布时参数在单形约束如凸约束、凹约束、单[2]调性约束条件下的极大似然估计,然而,该方法要求变换矩阵的所有元素均非负,因此该方法的使用范围受到限制.M1Tan等(2003)进一步给出了用EM算法在多元正态线性回归模型中求约束条件下参[3]数的极大似然估计,但是仅考虑了乘积参数空间的情况.另外,利用分布参数的序约束还可以改进通[4-5]常的估计量.本文在前人研究的基础之上,对于多元正态模型中,在协方差阵已知或未知的情况下,分别用EM算法和ECM算法给出了参数在简单序约束
4、、伞型序约束和递增的凸序约束条件下的极大似然估计.当参数向量低于三个分量时,已经给出了显式结果.此外,对于参数向量是高维时给出了相应的线性变换.1参数向量为低维时参数的极大似然估计对于多元正态模型idyl=XH+el,el~Nm(0,2),l=1,2,,,p,[收稿日期]2008-04-20[基金项目]国家自然科学基金重点资助项目(10431010);辽宁省博士启动基金资助项目(20071104).[作者简介]孟丽新(1980)),女,硕士,讲师,主要从事生物统计研究;刘洪(1967)),女,教授,主要从事定性数据统计分析研究.第4期孟丽新,等:基于EM算法约束条件下参数的估计29其中yl
5、对于每个l是一个m维反应向量,Xm@q是一个已知矩阵,H为参数向量,2已知或未知均可.111协方差阵已知11111简单序约束条件下参数的估计对于模型idyl=HH+el,el~N2(0,2),l=1,2,,,n.(1)Tid210其中yl,el和H=(H1,H2)是二维向量.eij~N(0,Ri),X=,约束条件是H1[H2,求H的极大似01^然估计H.10+令A1=H=A1B,BIR@R,11则H1[H2ZB2=H2-H1 .111--T---把H=A1B代入yl=XH+el,可得N=BcB+22el=(N1,N2),其中:N=22y,Bc=22XA1.令:b(i)表示矩阵Bc的第i列
6、,i=1,2.ind1Zik~NbikBk,,i=1,2;k=1,2.2nNi=Zi1+Zi2,Yobs={N1,N2},Ycom={Z11,Z12,Z21,Z22}.则Ycom的似然函数为2@2E2222@21-2i=1Ek=1(Zik-bikBk)--L(Ycom)=(2P)2exp1.2n2@2n可以推出Bk充分统计量2Ei=1ZikbikSk=22,k=1,2.Ei=1bik且Sk是Bk的无约束条件下的极大似然估计.+因此,在BIR@R的约束条件下,B1,B2的极大似然估计分别为:B^1=S1#I(-]7、Zc={Z11,Z21}为潜在变量,Z1=Z11,Z2=Z21.Z11+Z12+b11B1-b12B2Z21+Z22+b21B1-b22B2E1=,E2=,22可得1111f(Zc
8、Yobs,B)~NZ1
9、E1,1-#NZ2
10、E2,1-.2n22n2[6-7](t)(t)(t)由EM算法,给定B的初始值B=B1,B2时,可得:E步(t)(t)z11b11+z21b212n(t)S1=E(S1
11、Yobs,B)=QQ22##
