《应用多元分析》第八章.ppt

《《应用多元分析》第八章.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第八章因子分析§8.1引言§8.2正交因子模型§8.3参数估计§8.4因子旋转§8.5因子得分§8.1引言主成分分析的成功需满足如下两点：(1)前(少数)几个主成分具有较高的累计贡献率；(通常较易得到满足)(2)对主成分给出符合实际背景和意义的解释。(往往正是主成分分析的困难之处)因子分析的用途与主成分分析类似，它也是一种降维方法。由于因子往往比主成分更易得到解释，故因子分析比主成分分析更容易成功，从而有更广泛的应用。从方法上来说，因子分析比主成分分析更为精细，自然理论上也就更为复杂。主成分分析只涉及一般的线性变换，不涉及模型，仅需假定二阶矩存在。而因子分析需建立一个数学模型，并作

2、一定的假定。因子分析起源于20世纪初，K.皮尔逊(Pearson)和C.斯皮尔曼(Spearman)等学者为定义和测定智力所作的努力，主要是由对心理测量学有兴趣的科学家们培育和发展了因子分析。因子分析的目的是为了降维，降维的方式是试图用少数几个潜在的、不可观测的随机变量来描述原始变量间的协方差关系。例8.1.1林登(Linden)根据他收集的来自139名运动员的比赛数据，对第二次世界大战以来奥林匹克十项全能比赛的得分作了因子分析研究。这十个全能项目为：100米跑(x1)，跳远(x2)，铅球(x3)，跳高(x4)，400米跑(x5)，11米跨栏(x6)，铁饼(x7)，撑杆跳高(x8)

3、，标枪(x9)，1500米跑(x10)。经标准化后所作的因子分析表明，十项得分基本上可归结于他们的短跑速度、爆发性臂力、爆发性腿力和耐力这四个方面，每一方面都称为一个因子。十项得分与这四个因子之间的关系可以描述为如下的因子模型：xi=μi+ai1fi1+ai2fi2+ai3fi3+ai4fi4+εi,i=1,2,⋯,10其中f1,f2,f3,f4表示四个因子，称为公共因子(commonfactor)，aij称为xi在因子fj上的载荷(loading)，μi是xi的均值，εi是xi不能被四个公共因子解释的部分，称之为特殊因子(specificfactor)。例8.1.3公司老板对48

4、名应聘者进行面试，并给出他们在15个方面所得的分数，这15个方面是：x1：申请书的形式x9：经验x2：外貌x10：积极性x3：专业能力x11：抱负x4：讨人喜欢x12：理解能力x5：自信心x13：潜力x6：精明x14：交际能力x7：诚实x15：适应性x8：推销能力通过因子分析，这15个方面可以归结为应聘者的外露能力、经验、讨人喜欢的程度、专业能力和外貌这五个因子。§8.2正交因子模型一、数学模型二、正交因子模型的性质三、因子载荷矩阵的统计意义一、数学模型设有p维可观测的随机向量，其均值为，协差阵为Σ=(σij)。因子分析的一般模型为其中f1,f2,⋯,fm为公共因子，ε1,ε2,⋯

5、,εp为特殊因子，它们都是不可观测的随机变量。公共因子出现在每一个原始变量的表达式中，可理解为原始变量共同具有的公共因素。上式可用矩阵表示为式中为公共因子向量，为特殊因子向量，称为因子载荷矩阵。通常假定该假定和上述关系式构成了正交因子模型。由上述假定可以看出，公共因子彼此不相关且具有单位方差，特殊因子也彼此不相关且和公共因子也不相关。二、正交因子模型的性质1.x的协差阵Σ的分解2.模型不受单位的影响3.因子载荷是不惟一的1.x的协差阵Σ的分解故得Σ=AA′+D如果x为各分量已标准化了的随机向量，则Σ就是相关阵R=(ρij)，即有R=AA′+D例8.2.1设随机向量x=(x1,x2,

6、x3,x4)′的协方差矩阵为则Σ可分解为Σ=AA′+D其中若取，则有分解式此时m=p，没有达到降维目的，故所作的因子分析没有意义。出于降维的需要，我们常常希望m要比p小得多，这样前述Σ的分解式通常只能近似成立，即有Σ=AA′+D近似程度越好，表明因子模型拟合得越佳。一般来说，m选取得越小，上述近似效果就越差，即因子模型拟合得越不理想。拟合得太差的因子模型是没有什么实际意义的，故实践中m也不应选得过小。2.模型不受单位的影响将x的单位作变化，通常是作一变换x*=Cx，这里C=diag(c1,c2,⋯,cp),ci＞0,i=1,2,⋯,p，于是x*=Cμ+CAf+Cε令μ*=Cμ，A*

7、=CA，ε*=Cε，则有x*=μ*+A*f+ε*这个模型能满足类似于前述因子模型的假定，即其中因此，单位变换后新的模型仍为正交因子模型。3.因子载荷是不惟一的设T为任一m×m正交矩阵，令A*=AT，f*=T′f，则模型能表示为x=μ+A*f*+ε因为E(f*)=T′E(f)=0V(f*)=T′V(f)T=T′T=ICov(f*,ε)=E(f*ε′)=T′E(fε′)=0所以仍满足模型条件。Σ也可分解为Σ=A*A*′+D因此，因子载荷矩阵A不是惟一的，在实际应用中常常利