应用多元统计分析课件 07. 因子分析.ppt

《应用多元统计分析课件 07. 因子分析.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、1应用多元统计分析第七章因子分析2第七章因子分析本章主要讨论:●因子分析的原理与模型●因子分析求解过程●因子分析步骤及其他注意事项●因子分析应用实例3因子分析是由研究原始数据相关矩阵的内部依赖关系出发，把一些具有错综复杂关系多个变量(或样品)综合为少数几个反映共性的因子，并给出原始变量与综合因子之间的相关关系的一种多元统计分析方法。它也属于数据降维的一种统计方法。第七章因子分析4因子分析在经济分析中主要应用于两个方面：一是寻求数据基本结构；二是数据简化，进行分类处理。第七章因子分析5第一节因子分析的原理与模型本节基本内容一、因子分析的基本思想和数学模型二、因子载荷矩阵的统计意

2、义6因子分析是通过变量(或样品)的相关性结构的研究，找出存在于所有变量(或样品)中具有共性的因素，并综合为少数几个新变量，把原始变量表示成少数几个综合变量的线性组合，以再现原始变量与综合变量之间的相关关系的统计分析方法。一、因子分析的基本思想和数学模型基本思想7研究变量之间的相关关系的型因子分析研究样品之间的相关关系的型因子分析本章主要介绍型因子分析。一、因子分析的基本思想和数学模型因子分析方法常用的有两种类型：8引例为了了解学生学习能力，观测了个学生的个科目的成绩，用表示个科目，()表示第个学生的个科目的成绩。我们对这些资料进行归纳分析，可以看出各个科目成绩可由两部分组成，

3、即()其中，表示对所有都起作用的共同因素，它表示智能水平的高低；系数表示第个科目在智能高低因子上的体现；是科目特有的因素。这就是一个最简单的因子模型。一、因子分析的基本思想和数学模型9进一步地，可以把这个简单的因子模型推广到多个因子的情况，即影响学习成绩的全部共同因素有个，如逻辑思维能力、记忆能力、计算能力等，分别记为，则各科成绩由如下表达式描述：()用这个不可观测的互不相关的共同因素和一个特有的因素来描述原始可测的相关变量，并分析学生的学习能力。它们的系数表示第个科目在个方面的表现。这就是一个因子分析模型。一、因子分析的基本思想和数学模型10为了使一切更加正式，下面给出因子

4、模型的一般表述。首先要对上例中涉及的变量作出一些假设(1)是可观测的随机向量，且，；(2)()是不可观测的随机向量，且，，即各分量的均值为0，方差为1，且互不相关；(3)与不相关，且，的协方差为对角阵，即一、因子分析的基本思想和数学模型11在关于变量假定(1)-(3)的基础上，设可观测随机向量与不可观测随机向量、之间满足以下线性表述关系：则称上述模型为因子模型。一、因子分析的基本思想和数学模型12因子模型可以简写为：用矩阵表示为：即，一、因子分析的基本思想和数学模型13称为的公共因子；分别称为的特殊因子；公共因子一般对的每一个分量都有作用，而只对起作用(注意下标)，而且各个特

5、殊因子之间，以及特殊因子与所有公共因子之间都是互不相关的。模型中的矩阵为待估系数矩阵，称为因子载荷矩阵，其元素表示第个变量在第个公共因子上的载荷。一、因子分析的基本思想和数学模型14二、因子载荷矩阵相关性质关于因子模型的协方差结构。在上述因子模型的基础上，我们可以对可观测随机向量的方差进行如下分解：即15由上式可知，因子模型意味着第变量和第变量的协方差由下式给出若原始变量已经标准化，则上式中的协差阵可用相关阵代替。在此意义上，公共因子解释了观测变量之间的相关性。因子模型预测的相关性同观测变量本身的相关性之间的差异就是剩余相关。所以评价因子模型代表观测变量的程度，就可以考察剩余

6、相关的大小。一、因子分析的基本思想和数学模型16类似于前面的推导，进一步地有这种协方差结构由因子模型表达式的线性设定及假定(1)-(3)导出，是因子模型能够得以求解的依据。一、因子分析的基本思想和数学模型17第二，关于因子载荷矩阵的不唯一性。因子载荷矩阵不是唯一的，若是任意的正交矩阵，由于因子模型可表示为有，因此，上式仍满足因子模型的假定(1)-(3)。故将看成公共因子，看成相应的因子载荷矩阵，此时有一、因子分析的基本思想和数学模型18三、因子载荷矩阵的统计意义由因子模型可知，与的协方差为根据因子模型假定(3)，与不相关，有根据模型假定(2)，当且仅当。因此有，19若是标准化

7、变量，有，，则此时，也是与的相关系数。它表示依赖的程度，即反映第个变量对第个公共因子的相对重要性，也就是表示变量与公共因子间的密切程度，可将看作第个变量在第个公共因子上的权重。三、因子载荷矩阵的统计意义20因子载荷矩阵中第行元素的平方和，即()称为变量的共同度。为了说明变量共同度的名称由来及统计意义，有三、因子载荷矩阵的统计意义21若是标准化变量，此时，则有当时，，即完全能够由公共因子的线性组合表示；当接近于0时，表明公共因子对的影响很小，主要由特殊因子来描述。可见是由公共因子对变量方差的一种度量手段，