主成份分析及因子分析.ppt

《主成份分析及因子分析.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第三章主成份分析及因子分析principalcomponentanalysis§7.1引言主成分分析(或称主分量分析，principalcomponentanalysis)由皮尔逊(Pearson,1901)首先引入，后来被霍特林(Hotelling,1933)发展了。主成分分析是通过降维技术把多个变量化为少数几个主成分(即综合变量)的统计分析方法。主成分能够反映原始变量的绝大部分信息，通常表示为原始变量的某种线性组合。主成分分析的一般目的是：变量的降维；主成分的解释。能否在相关分析的基础上，用较少的新特征代替原来较多的旧特征，而且使这些较少的新变量尽可能多地保留原来变量所反映的信息

2、？一、主成分分析的基本原理假定有样本，每个样本共有p个特征，构成一个n×p阶的数据矩阵（3.5.1）当p较大时，在p维空间中研究问题比较繁琐。解决办法：进行降维处理，即用较少的几个综合指标代替原来较多的变量指标，而且使这些较少的综合指标既能尽量多地反映原来较多变量指标所反映的信息，同时它们之间又是彼此独立的。定义：记x1，x2，…，xP为原变量指标，z1，z2，…，zm（m≤p）为新变量指标(3.5.2)系数lij的确定原则：①zi与zj（i≠j；i，j=1，2，…，m）不相关；②z1是x1，x2，…，xP的一切线性组合中方差最大者，z2是与z1不相关的x1，x2，…，xP的所有线性

3、组合中方差最大者;…;zm是与z1，z2，……，zm－1都不相关的x1，x2，…xP，的所有线性组合中方差最大者。则新变量指标z1，z2，…，zm分别称为原变量指标x1，x2，…，xP的第1，第2，…，第m主成分。主成分分析的实质就是确定原来变量xj（j=1，2，…，p）在诸主成分zi（i=1，2，…，m）上的荷载lij（i=1，2，…，m；j=1，2，…，p）。从数学上可以证明，它们分别是相关矩阵m个较大的特征值所对应的特征向量。二、主成分分析的计算步骤（一）计算相关系数矩阵rij（i，j=1，2，…，p）为原变量xi与xj的相关系数，rij=rji，其计算公式为（3.5.3）（3

4、.5.4）（二）计算特征值与特征向量①解特征方程　　　　，常用雅可比法（Jacobi）求出特征值，并使其按大小顺序排列；②分别求出对应于特征值　的特征向量，要求=1，即　　　　　，其中　表示向量的第j个分量。③计算主成分贡献率及累计贡献率贡献率累计贡献率一般取累计贡献率达85%~95%的特征值所对应的第1、第2、…、第m（m≤p）个主成分。④计算主成分载荷（3.5.5）（3.5.6）三、应用实例下面，我们根据表3.5.1给出的数据，对某农业生态经济系统做主成分分析。表某农业生态经济系统各区域单元的有关数据100个学生的数学、物理、化学、语文、历史、英语的成绩如下表（部分）。问题能不能

5、把这个数据的6个变量用一两个综合变量来表示呢？这一两个综合变量包含有多少原来的信息呢？能不能利用找到的综合变量来对学生排序呢？这一类数据所涉及的问题可以推广到对企业，对学校进行分析、排序、判别和分类等问题。例中的的数据点是六维的，每个观测值是6维空间中的一个点。我们希望把6维空间用低维空间表示。先假定只有二维，即只有两个变量，它们由横坐标和纵坐标所代表；因此每个观测值都有相应于这两个坐标轴的两个坐标值；如果这些数据形成一个椭圆形状的点阵（这在变量的二维正态的假定下是可能的）那么这个椭圆有一个长轴和一个短轴。在短轴方向上，数据变化很少；在极端的情况，短轴如果退化成一点，那只有在长轴的方

6、向才能够解释这些点的变化了；这样，由二维到一维的降维就自然完成了。当坐标轴和椭圆的长短轴平行，那么代表长轴的变量就描述了数据的主要变化，而代表短轴的变量就描述了数据的次要变化。但是，坐标轴通常并不和椭圆的长短轴平行。因此，需要寻找椭圆的长短轴，并进行变换，使得新变量和椭圆的长短轴平行。如果长轴变量代表了数据包含的大部分信息，就用该变量代替原先的两个变量（舍去次要的一维），降维就完成了。椭圆（球）的长短轴相差得越大，降维也越有道理。对于多维变量的情况和二维类似，也有高维的椭球，只不过无法直观地看见罢了。首先把高维椭球的主轴找出来，再用代表大多数数据信息的最长的几个轴作为新变量；这样，主

7、成分分析就基本完成了。注意，和二维情况类似，高维椭球的主轴也是互相垂直的。这些互相正交的新变量是原先变量的线性组合，叫做主成分(principalcomponent)。二维椭圆有两个主轴，三维椭球有三个主轴一样，有几个变量，就有几个主成分。选择越少的主成分，降维就越好。什么是标准呢？这些被选的主成分所代表的主轴的长度之和占了主轴长度总和的大部分。有些文献建议，所选的主轴总长度占所有主轴长度之和的大约85%即可，这只是一个大体的说法，要看实际情况而定。SPS