主成分估计的大样本性质

《主成分估计的大样本性质》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、维普资讯http://www.cqvip.com＼。＼／卢，第14g第1期庆交通学院学报l995年3月Vo1．14No．1JOURNALOFCHONGQINGJIAOTONGINSTITUTEMar．199S●主成分估计的大样本性质置杨虎(重庆变通学院统计数学所；630074)摘要针对设计阵病态面弓J人的有掏估计无论从理论上和方法上都取得了较大的发展并已广泛应用于实际．而主成分估计是其中轻重要的一类，有关研究已相当丰富，本文进一步讨论了它的太样本性质．关键词：主成分估计，大样本性质，数据协斗I引言考虑线性回归模型

2、『I=五口+(1)其中=(1，驰，⋯，)，为观测向量，卢一(．卢2，⋯，)为回归参数，一(e，，⋯，e^)，为随机误差向量，五一(，，⋯，‘)，=(％)为设计阵，当n充分大时，假定x．列满秩，且记c0v()=己≥O(非负定)，我们知道的最4"-乘估计(LSE)风一(墨五)x是最常采用的一种估计，其大样本性质的研究已相当深入[．但对于大型回归问题(很大)以及在太样本情形(砷一co)，理论研究和实践均已充分表明LSE不甚理想，近代研究揭示了其本质报源并提出了很多改进和弥补方法，有偏估计就是其中最重要的一种．有偏估计理

3、论和方法从产生到现在仅30来年，发展却相当快，一些比较成熟的估计如岭估计[，主成分估计嘲已广泛应用于实际问题，效果显著．如果设=墨以，=以，以的列向量为Z五的标准正交化特征向量，则(1)式可改写为：=zl喁+(2)从而喁的LSE为d．=A．-墨y。，A=djag(土，，⋯，≯)=j乏墨以，对确定的i，设=dhag(bL，b2，⋯，6，)，b1jb2=⋯=6；1，b．-i+l=⋯譬b，一0，则=a。为的丢弃后；个主成分的Massy主成分估计[，一般来讲，丢弃的主成分五对应的特征值(指墨五奉文收到日期：l994—05

4、～27．橱虎．男3O萝，尉教授国家自然科学基盘赍助项目t维普资讯http://www.cqvip.com重庆趸通学院学报第l4巷相应的特征值)‘较小，至于如何确定，实际中可以制订～定的标准，比如说以特征直小于d(常数)为准等．这样对不同的，相压的主成分估计(记为I1)丢弃的主成分个数可以不相同，设丢并的主成分个数为，即有=“如果考虑{)的线性组台五一三rq-，≥0，一]，并特别地取．】一z=0f)’(1一意(3)】一杏1+1一抖)，$=‘(≈‘一≈1)，。<

5、且，⋯，，．．，)㈤其中，≥l>姆．这类估计有很多优良性质(见文])．作为现有文献的必要补充和发展，本文进一步讨论了主成分估计及上述单参数主成分估计的相甘性问题，给出了它们的弱相台性，矩相台性及强相合性．最后，如果假定；=】，2，⋯，)相互独立，设E：：0-2L，0<<。。，一00一l，2，⋯，)则我们可以基于得到的一种估计蓦(*一：(5)其中，一Ⅻ(墨)，并相压地给出了i的相合性．I主要结果及证明定理l：设(B)一O(z=】，2，⋯，)，^～(E)表示矗的最大特征根并假设其有界，则F．及风为的均方相台估计的冗要

6、条件均为lim(墨丑)一0．证明：先证充舟性利用如下事实：若≥0，则≤()，，从而E≤i～(己)J．显然(。)!≤，()≤，故j≤lira()(墨。)≤lira(墨置)一0O≤lira(．)(墨)≤lim(墨墨)一0又因为-II一=l‘．(互互。)墨r．一。=西Ir以，(互互一)_。墨一以r，一)tr．fll_≤II以(墨。)墨IJ+I1[『lZ五)一其中维普资讯http://www.cqvip.com第l期扬虎：主成分估计的走样太性质3一diag(O，⋯，0，，⋯，z)(6ll，『

7、一≤I，．(墨五．)_。王l

8、l+I＆(墨互．)一l1。其中一drag(1—，⋯，l一，；lt1一l)，⋯，’(】一))，(7)所以目1一II≤E[4x(．(_x)-1)墨]A-(墨x．)-1＼一讲(墨x)芦一扭[r。．(置)_。E五]一以(五)一。≤(蜀)【r(。G(x~x)一)!丑五一(互五)一。FI一声I≤EEl',x,((x工．))疋]一(E五)-l砖(墨X．)卢≤^(B)tr(nA(卫。)-1)墨x。-．fPL互墨)而由·0≤liraI}一II≤Iim玉眦(。)[r()(墨王．)一+lim62fl'(墨X。)r”并考虑到特征根^(E

9、)，d均有界．故上式右端为零．即得lime。一II一0．同理liraE一一0．从而和均为的均方相台估计．再证必要性：若。和为的均方相合估计，则亦为，的弱相合估计，即，三，三p，从而·卢。一卢一U．C．(蜀x)_。(五)叫墨一0，V．趣一8=U．s7．(墨x)一、8十UE(墨x，)一1蜀e．o，口故lirau,c．(墨X。)=I[mU。(墨五)p一0，V与u(xt)_。墨斗