资源描述：
《广义线性模型极大似然估计弱相合性的数值模拟》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、广义线性模型极大似然估计弱相合性的数值模拟第29卷第8期2011年8月嘉应学院(自然科学)JOURNALOFmYINGUNIVERSITY(NaturalScience)Vo1.29No.8Aug.2011广义线性模型极大似然估计弱相合性的数值模拟邓春亮,胡南辉(嘉应学院数学学院,广东梅州514015)摘要:广义线性模型是经典线性模型的自然推广,它是一类应用广泛的统计模型.选择Probit模型,利用madab编程,通过数值模拟的方法验证了广义线性模型的极大似然估计的弱相合性.关键词:广义线性模型;极
2、大似然估计;弱相合性Probit模型中图分类号:O212.1文献标识码:A文章编号:1006—642X(2011)08—0008一o40引言广义线性模型(GLMs)理论是对线性模型的经典理论的重要推广,自从Nelder和wedderb啪['引入以来,已广泛应用到许多领域.定义1设q×1维响应变量Yi是相互独立的,协变量是已知的P×q阶设计阵,Y服从如下指数分布:e-p(O'iyl—b(0i))dv(y),i=1,2…,11,.(1)设Y的数学期望与线性因子有关系g()=X,即=h(x).(2)这里0
3、i称为自然参数,b(0)为相应于指数分布的已知函数.卢∈R是未知P维的回归参数.令是它的真值,其中0i=b(^(置)),b为b的一阶导数,b(0)=Ob(0)/00,b为其反函数.g是一个光滑连续一一对应的_+函数,h是g的逆函数.我们称模型(2)为广义线性模型,式中的函数g称为联系函致在上面的记号下,我们有收稿日期:20ll一06—24基金项目:嘉应学院自然科学研究项目(2011KJY09)作者简介:邓春亮(1984一),女,广东梅州人,助教,硕士,主要研究方向:广义线性模型理论及应用.=(,,)
4、=h(X'/3)=b,cov~(y)=∑(置)=b,其中b(0)=ab(o)/aooo为一q阶方阵,其(,)元为a6/00ia.当h(t)=Ob(t)/Ot时,其对应的联系函数称为自然联系函数,此时0=X73.当联系函数为g()=()时,是标准正态累积分布函数,就得到Probit模型,这是广义线性模型中一类非常经典的模型,经常用于属性数据的统计推断分析.注当{X,n1}为随机矩阵时,我们假设{),,Xi,1}是独立同分布的,并将(1)视为在已知置条件下,Y的分布,即YiIXi)=exp(O'iYi—
5、b(0i))dv(y),0i=b(h(X)),1≤凡.在广义线性模型中,Y,Y2,…,Y的对数似然函数为lIl(p)=三(O'iyi—b(0i))一c,0=b(^()),1≤,1.(3)其中c=c(,,,…,y)与无关,常可略去.记()=b(0),第29卷第8期邓春亮,胡南辉广义线性模型极大似然估计弱相合性的数值模拟9∑()=b(0),)=X此时Ln(f1)==zxiH(X)∑(X)(Y一h(XJ3)),(4)F()=Cove(S())=∑iH(X)∑I1(X)H()),(5)这里称(卢)为得分函数
6、,()为信息矩阵.广义线性模型参数估计常用的统计推断方法是似然法,这是一类重要的方法.我们令(4)式为0,即Ln(O)=0,得对数似然方程~XiH(X)∑(X)(Y一h(x))=o.(6)它的根称为的极大似然估计(MLE),其中∑(?)可通过b(?)和(?)求得.定义2[.在一定条件下,若当凡一∞时,似然方程(6)以任意接近于1的概率有一解,即limP(方程(6)有解)=1,则称卢为的弱相合估计.若在自然联系的情况下,可以证明解是唯一的.国内有不少学者研究广义线性模型弱相合性的相关理论,而且得到了很
7、好的结果,其理论也在日趋完善.本文在廖源,张三国等讨论的基础上进行研究.由于他们讨论的是在自然联系情形下的弱相合性,然而在实际中,常常碰到非自然联系的情形,因此近年来非自然联系情形下广义线性模型参数估计的渐近性质越来越引起广泛研究学者的关注.但非自然联系情形下的弱相合性很难得到证明,本文借助matlab软件,利用数值模拟的形式对非自然联系情形下的弱相合性进行验证.1广义线性模型弱相合性的数值模拟1.1模型的选取本文中的数值模拟,我们选取广义线性模型的特例Probit模型(响应变量为二值,0或1)进行
8、模拟.我们为验证广义线性模型似然方程(6),即.~)∑()(一))=0_XiH(XXYh(x解的弱相合性,其中为P×q阶设计矩阵,为P维列向量=(,…,).这里考虑Probit模型,因而联系函数为g(t)=(t),则反联系函数为(t)=(￡),(t)为标准正态分布累积函数,即)=去(一)==p(一),这里取定维数p=g=3?1.2模拟的方法由于广义线性模型的似然方程是非线性的,求极大似然估计通常选用牛顿迭代法Newton—Raph?son[3】.此迭代法通过变换与迭代
