主成分分析说课讲解.ppt

《主成分分析说课讲解.ppt》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、主成分分析Principalcomponentanalysis主成分分析的基本思想主成分的计算主成分分析的应用主成分分析的基本思想主成分分析就是把原有的多个指标转化成少数几个代表性较好的综合指标，这少数几个指标能够反映原来指标大部分的信息（85%以上），并且各个指标之间保持独立，避免出现重叠信息。主成分分析主要起着降维和简化数据结构的作用。§1基本思想主成分分析是把各变量之间互相关联的复杂关系进行简化分析的方法。在社会经济的研究中，为了全面系统的分析和研究问题，必须考虑许多经济指标，这些指标能从不同的侧面反映我们所研究的对象的特征，但在某种程度

2、上存在信息的重叠，具有一定的相关性。主成分分析试图在力保数据信息丢失最少的原则下，对这种多变量的截面数据表进行最佳综合简化，也就是说，对高维变量空间进行降维处理。很显然，识辨系统在一个低维空间要比在一个高维空间容易得多。基于相关系数矩阵/协方差矩阵做主成分分析？选择几个主成分？如何解释主成分所包含的实际意义？在力求数据信息丢失最少的原则下，对高维的变量空间降维，即研究指标体系的少数几个线性组合，并且这几个线性组合所构成的综合指标将尽可能多地保留原来指标变异方面的信息。这些综合指标就称为主成分。要讨论的问题是：§2数学模型与几何解释假设我们所讨论

3、的实际问题中，有p个指标，我们把这p个指标看作p个随机变量，记为X1，X2，…，Xp，主成分分析就是要把这p个指标的问题，转变为讨论m个新的指标F1，F2，…，Fm(m

4、•主成分分析的几何解释旋转坐标轴•旋转变换的目的是为了使得n个样本点在F1轴方向上的离散程度最大，即F1的方差最大，变量F1代表了原始数据的绝大部分信息，在研究某经济问题时，即使不考虑变量F2也损失不多的信息。F1与F2除起了浓缩作用外，还具有不相关性。F1称为第一主成分，F2称为第二主成分。主成分的计算先讨论二维情形求第一主成分F1和F2。我们已经把主成分F1和F2的坐标原点放在平均值所在处，从而使得F1和F2成为中心化的变量，即F1和F2的样本均值都为零。因此F1可以表示为关键是，寻找合适的单位向量，使F1的方差最大。问题的答案是：X的协方

5、差矩阵S的最大特征根所对应的单位特征向量即为。并且就是F1的方差。同样，F2可以表示为寻找合适的单位向量，使F2与F1独立，且使F2的方差（除F1之外）最大。问题的答案是：X的协方差矩阵S的第二大特征根所对应的单位特征向量即为。并且就是F2的方差。其中，aij称为因子载荷量因子载荷量：主成分与变量间的相关系数，即：因子载荷量的大小和它前面的正负号直接反映了主成分与相应变量之间关系的密切程度和方向。从而可以说明各主成分的意义求解主成分的步骤：1.求样本均值和样本协方差矩阵S;2.求S的特征根求解特征方程，其中I是单位矩阵，解得2个特征根3.求特征

6、根所对应的单位特征向量4.写出主成分的表达式身高x1(cm)胸围x2(cm)体重x3(kg)149.5162.5162.7162.2156.5156.1172.0173.2159.5157.769.577.078.587.574.574.576.581.574.579.038.555.550.865.549.045.551.059.543.553.5例1下表是10位学生的身高、胸围、体重的数据。对此进行主成分分析。1.求样本均值和样本协方差矩阵2.求解协方差矩阵的特征方程3.解得三个特征值和对应的单位特征向量：4.由此我们可以写出三个主成分的表

7、达式：5.主成分的含义F1表示学生身材大小。F2反映学生的体形特征三个主成分的方差贡献率分别为：前两个主成分的累积方差贡献率为：在一般情况下，设有n个样品，每个样品观测p个指标，将原始数据排成如下矩阵：多指标求解主成分的步骤：求样本均值和样本协方差矩阵S;2.求解特征方程=0,其中I是单位矩阵,解得p个特征根3.求所对应的单位特征向量解得4.写出主成分的表达式根据累积贡献率的大小取前面m个(m

8、成分分别为第一主成分的贡献率为R型分析为消除量纲影响，在计算之前先将原始数据标准化。标准化变量的S=R，所以用标准化变量进行主成分分析相当于从原变量的