以Excel和SPSS为工具的管理统计 第10章 主成分分析

《以Excel和SPSS为工具的管理统计 第10章 主成分分析》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、本章教学目标：掌握回归主成分分析的基本概念、基本原理及其分析应用的基本步骤；掌握使用软件进行主成分分析；能应用主成分分析方法解决实际问题第10章主成分分析1本章主要内容：§10.1主成分分析的概念§10.2主成分计算§10.3样本主成分§10.4主成分的选取§10.5案例分析§10.6上机实现本章内容重点：主成分分析的概念;主成分的选取；上机实现2在实证数据分析研究中，人们为了尽可能完整地搜集信息，对于每个样本往往要观测它的很多项指标，少者四、五项，多则几十项，这些指标之间通常不是相互独立而是相关的。因此，从统计分析或推断的角度来说，人们总是希

2、望能把大量的原始指标组合成较少的几个综合指标，从而使分析简化。例如，一个人的身材需要用好多项指标才能完整地描述，诸如身高、臂长、腿长、肩宽、胸围、腰围、臀围等，但人们购买衣服时一般只用长度和肥瘦两个指标就够了，这里长度和肥瘦就是描述人体形状的多项指标组合而成的两个综合指标。§10.1主成分的概念3假设观测指标共有p个，分别用x1,x2,…,xp,表示，将这些指标综合为一个指标的方法显然有很多，但最简单的方法是将这些指标用线性组合的方法将它们组合起来。因此，可设定其综合指标的形式为这些指标的线性组合，即我们希望构造少数几个这样的综合指标，并且这几

3、个综合指标之间是不相关的。其中反映原始观测指标的变动程度最大的综合指标最重要，我们称其为原始观测指标的第一主成分；而反映原始观测指标变动程度次大的综合指标，称为原始观测指标的第二主成分；反映原始观测指标变动程度第三大的综合指标，称为第三主成分；……，4§10.2主成分计算设p个指标(随机变量)是p维随机变量，其协方差矩阵为式中，协方差限制求的最大值。实际上，这就是求的的值5根据线性代数的理论，我们知道这就是矩阵的最大特征根，并且就是相应的特征向量。就为随机向量X的第一主成分。X的第二主成分不应该再重复反映第一主成分已经反映的内容，所以求第二主成

4、分时，除了有类似于第一主成分的约束条件外，还必须加上第二主成分与第一主成分不相关这一条件，即要使也就是要使即第二主成分的特征向量必须于第一主成分的特征向量正交。6事实上，由于协方差矩阵Σ为非负定矩阵，故有p个非负特征根，从而可求出p个特征向量将每一个特征向量作为一个主成分的系数向量，就可得出p个主成分。若记p个主成分组成的主成分向量为特征向量组成的矩阵为A，即则可写成主成分向量的表达形式为：7我们有即不相关各自的方差为总的方差是我们从中，选出对方差贡献最大的部分指标，就达到了主成分分析的目的。8例10.1假设市场上肉类、鸡蛋、水果3种商品价格的

5、月份资料的协方差矩阵为：试求这3种价格的主成分。解：根据上述协方差矩阵，可写出其特征多项式为令此特征多项式为0，则得特征方程，解此特征方程，从而得Σ的特征值为9得这些特征根分别代入特征方程，然后求解就可得到相应的各个特征向量，将这些特征向量单位化，就得到相应于上述3个特征根的3个单位特征向量分别为：于是，3种商品价格的3个主成分分别为10在解决实际问题时，总体的协方差和相关阵往往都是未知的，需要通过样本来进行估计。设样本数据矩阵为则样本协方差矩阵为样本相关矩阵记为§10.3样本主成分11由主成分分析的基本思想和计算过程可以看出，主成分分析是把p

6、个随机变量的总方差tr(Σ)分解为p个不相关的随机变量的方差之和。各个主成分的方差即相应的特征根表明了该主成分的方差，方差的值越大，表明主成分综合原始变量的能力越强。累计贡献率：在研究实际问题时，一般要求累计贡献率不小于85％。§10.4主成分的选取12虽然主成分的贡献率这一指标给出了选取主成分的一个准则，但是累计贡献率只是表达了前m个主成分提取了的多少信息，它并没有表达某个变量被提取了多少信息，因此仅仅使用累计贡献率这一准则，并不能保证每个变量都被提取了足够的信息。因此，有时还往往需要另一个辅助的准则。由于，所以显然是第j个主成分所能说明的第

7、i个原始变量的方差，即第j个主成分从第i个原始变量中所提取的信息。13原始变量的信息提取率定义为：我们选取主成分时，不仅要使前m个主成分的累计贡献率达到一定的程度，而且还要使每个原始变量的信息提取率也达到一定的程度。14【10.3】假设某商场运动鞋、凉鞋、皮鞋3种消费量的协方差矩阵为试求各主成分，并对各主成分的贡献率及各个原始观测变量的信息提取率进行讨论。【解】由上述协方差矩阵，写出其特征多项式为15令此特征多项式为0，得特征方程。求解特征方程，得三个特征根分别为将各个特征根代入特征方程，求解相应的齐次线性方程，得到各个特征向量，经过单位化处理

8、，就得到相应的三个单位化特征向量分别为16如果我们只取一个主成分，则累计贡献率为效果似乎已经很理想。但是，如果我们进一步计算每个变量的信息提取率，则1