多元统计学-2主成分分析

《多元统计学-2主成分分析》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、主成分分析唐启义www.chinadps.netqytang@zju.edu.cnTel:13958168331浙江大学农业与生物技术学院1.基本思想：用较少的变量表示原来的样本；2.目的：是样本数据信息损失最小的原则下，对高维变量进行降维。3.参数估计：一般是求相关矩阵的特征值和相应的特征向量（主成分分析法），取前几个计算主成分。4.应用：应用较少变量来解释各个样本的特征（数据降维、综合平价）。主成份分析例子市区农业总产值工业总产值建筑业总产值固定资产投资交通运输邮电业产值批零贸易餐饮业产值金融保险业总产值Y(i,1)Y(i,2)南昌市59.4030

2、6.0897.9842.7482.4346.71338.326.77-1.03景德镇市15.9064.9522.228.4516.3313.9888.03-1.09-1.21萍乡市19.6292.389.0010.2610.484.1494.20-1.48-0.90九江市55.42124.5252.2027.1434.2711.89143.451.190.07新余市18.1061.9011.848.548.035.7157.40-1.87-0.91鹰潭市15.5541.663.0411.714.913.0141.34-2.27-0.76赣州市112.6

3、094.6535.0232.5324.8310.69145.081.002.05吉安市74.2849.4029.4613.1415.8210.79102.92-0.640.68宜春市88.5695.3416.1618.9619.9611.54102.73-0.201.10抚州市63.0161.9324.048.955.964.0988.88-1.360.41上饶市70.8296.7521.9515.9829.287.43137.93-0.060.52一项十分著名的工作是美国的统计学家斯通(stone)在1947年关于国民经济的研究。他曾利用美国1929

4、一1938年各年的数据，得到了17个反映国民收入与支出的变量要素，例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息外贸平衡等等。主成份分析起源在进行主成分分析后，竟以97.4％的精度，用三新变量就取代了原17个变量。根据经济学知识，斯通给这三个新变量分别命名为总收入F1、总收入变化率F2和经济发展或衰退的趋势F3。更有意思的是，这三个变量其实都是可以直接测量的。斯通将他得到的主成分与实际测量的总收入I、总收入变化率I以及时间t因素做相关分析，得到下表：F1F2F3i△itF11F201F3001i0.995-0.0410.057li

5、-0.0560.948-0.124-0.102lt-0.369-0.282-0.836-0.414-0.1121主成分分析是把各变量之间互相关联的复杂关系进行简化分析的方法。在研究中，为了全面系统的分析和研究问题，必须考虑许多指标，这些指标能从不同的侧面反映我们所研究的对象的特征，但在某种程度上存在信息的重叠，具有一定的相关性。在力求数据信息丢失最少的原则下，对高维变量空间降维，即研究指标体系的少数几个线性组合，并且这几个线性组合所构成的综合指标将尽可能多地保留原来指标变异方面的信息。这些综合指标就称为主成分。(1)基于相关系数矩阵主成分分析。（2）主

6、成分分析的目的是简化变量，一般情况下主成分的个数应该小于原始变量的个数。关于保留几个主成分，应该权衡主成分个数和保留的信息。（3）如何解释主成分所包含的专业意义。主成分分析数学模型多个指标降为少数几个综合指标的过程在数学上就叫做降维。主成分分析通常的做法是，寻求原指标的线性组合Fi。•••••••••••••••••••••••••••••••••••••主成分分析的几何解释平移、旋转坐标轴主成分分析综合能力1）贡献率：第i个主成分的方差在全部方差中所占比重，称为贡献率，反映了原来P个指标多大的信息，有多大的综合能力。2）累积贡献率：前k个主成分共有多

7、大的综合能力，用这k个主成分的方差和在全部方差中所占比重来描述，称为累积贡献率。我们进行主成分分析的目的之一是希望用尽可能少的主成分F1，F2，…，Fk（k≤p）代替原来的P个指标。到底应该选择多少个主成分，在实际工作中，主成分个数的多少取决于能够反映原来变量80%以上的信息量为依据，即当累积贡献率≥80%时的主成分的个数就足够了。最常见的情况是主成分为2到3个。根据主成分分析的定义及性质，我们已大体上能看出主成分分析的一些应用。概括起来说，主成分分析主要有以下几方面的应用。1．主成分分析能降低所研究的数据空间的维数。即用研究m维的Y空间代替p维的X空

8、间(m＜p)，而低维的Y空间代替高维的x空间所损失的信息很少。即：使只有一个主成分Yl(即m＝