主成分分析方法.ppt

《主成分分析方法.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第六章地理系统要素的主成分分析主成分分析的原理主成分分析的解法主成分分析方法应用实例问题的提出地理系统是多要素的复杂系统。变量太多，会增加分析问题的难度与复杂性，而且多个变量之间是具有一定的相关关系的能否在相关分析的基础上，用较少的新变量代替原来较多的旧变量，而且使这些较少的新变量尽可能多地保留原来变量所反映的信息？主成分分析方法就是综合处理这种问题的一种强有力的工具。主成分分析是把原来多个变量划为少数几个综合指标的一种统计分析方法。从数学角度来看，这是一种降维处理技术§1主成分分析方法的基本原理假定有n个地理样本，每个样本共有

2、p个变量，构成一个n×p阶的地理数据矩阵当p较大时，在p维空间中考察问题比较麻烦。为了克服这一困难，就需要进行降维处理.要求：较少的几个综合指标尽量多地反映原来较多变量指标所反映的信息，同时它们之间又是彼此独立的例，成绩数据100个学生的数学、物理、化学、语文、历史、英语的成绩如下表（部分）。对于多维变量的情况和二维类似，也有高维的椭球，只不过无法直观地看见首先把高维椭球的主轴找出来，再用代表大多数数据信息的最长的几个轴作为新变量；这样，主成分分析就基本完成注意，和二维情况类似，高维椭球的主轴也是互相垂直的。这些互相正交的新变量

3、是原先变量的线性组合，叫做主成分.正如二维椭圆有两个主轴，三维椭球有三个主轴一样，有几个变量，就有几个主成分选择越少的主成分，降维就越好。什么是标准呢？那就是这些被选的主成分所代表的主轴的长度之和占了主轴长度总和的大部分。有些文献建议，所选的主轴总长度占所有主轴长度之和的大约85%即可，其实，这只是一个大体的说法；具体选几个，要看实际情况而定定义：记x1，x2，…，xP为原变量指标，z1，z2，…，zm（m≤p）为新变量指标系数lij的确定原则：zi与zj（i≠j；i，j=1，2，…，m）相互无关z1是x1，x2，…，xP的一切

4、线性组合中方差最大者，z2是与z1不相关的x1，x2，…，xP的所有线性组合中方差最大者；……zm是与z1，z2，……，zm－1都不相关的x1，x2，…xP，的所有线性组合中方差最大者。则新变量指标z1，z2，…，zm分别称为原变量指标x1，x2，…，xP的第一，第二，…，第m主成分从以上的分析可以看出，主成分分析的实质就是确定原来变量xj（j=1，2，…，p）在诸主成分zi（i=1，2，…，m）上的荷载lij（i=1，2，…，m；j=1，2，…，p）从几何上看,找主成分的问题,就是找出P维空间中椭球体的主轴问题；从数学上容易知

5、道，从数学上可以证明，它们分别是相关矩阵的m个较大的特征值所对应的特征向量特征值与特征向量与方差--协方差矩阵的联系例如6个样方、2个种的多度数据是：样方123456物种X1564603物种X21187622数据的中心化样方123456总和物种X11202-4-10物种X25210-4-40中心化后的原始数据矩阵把坐标轴X1、X2刚性地旋转一个角度，得到图中新坐标轴Y1和Y2Y1Y26个样方点在新坐标系中位置的数据为：与中心化后的原始数据有如下关系：每个平方和都是6个点在相应坐标轴上方差的（6-1）倍每一项都相当于数据的离差平

6、方和，因为x1j,x2j与y1j,y2j的平均值都为0???由它的取值只依赖于坐标轴旋转角度一个变量，取极大值的必要条件是对θ的导数为0。即=0=0所以上述条件等同于因此，如果原坐标旋转后的Y1轴是我们要求的使Var(Y1)最大的直线的话，则必然有Var(Y2)最小，且。这说明6个样方点对新坐标的离差矩阵应为是对角矩阵，并且和是对称离差矩阵S的两个特征根（），而U的每一行是相应的特征向量一、主成分的基本理论二、主成分分析的几何解释进行主成分分析的目的，就是找出转换矩阵U§2主成分分析的解法一、用方差—协方差矩阵求解主成分例例:设

7、有一组古生物腕足动物贝壳标本的两个变量:长度和宽度.所测量的数据列于表8-1.X1X2X1X232121041012116513668131461013157213177131478915139517139817179141819107202011121、方差—协方差的计算主成分分析的实质；就是要求出方差—协方差矩阵的特征向量及其对应的特征值，即要找出方差—协方差矩阵所确定的椭球的主轴，交确定其长度方差—协方差矩阵为求特征值特征向量的求解当时,化为联立方程求得同理求得时的特征向量算出第一主成分I：特征值为37.9，特征向量为第二

8、主成分II：特征值为6.5，特征向量为特征向量的方向由I、II中包括的两个数字控制第一主成分Z1的方差为37.9，第二主成分Z2的方差为6.5。两者之和恰为X1和X2的总方差44.4。可见，两个主成分Z1、Z2所代表的信息分别为86%和14%。如果用Z1代表原来