机器学习之降维—PCA-LDA知识分享.ppt

《机器学习之降维—PCA-LDA知识分享.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、机器学习之降维—PCA-LDA1前言假定你是一个公司的财务经理，掌握了公司的所有数据，比如固定资产、流动资金、每一笔借贷的数额和期限、各种税费、工资支出、原料消耗、产值、利润、折旧、职工人数、职工的分工和教育程度等等。实例1实例2你必须要把各个方面作出高度概括，用一两个指标简单明了地把情况说清楚。(1)如何作主成分分析?当分析中所选择的变量具有不同的量纲，变量水平差异很大，应该怎样选择?在力求数据信息丢失最少的原则下，对高维的变量空间降维，即研究指标体系的少数几个线性组合，并且这几个线性组合所构成的

2、综合指标将尽可能多地保留原来指标变异方面的信息。这些综合指标就称为主成分。要讨论的问题是：2.问题的提出3各个变量之间差异很大4（2）如何选择几个主成分。主成分分析的目的是简化变量，一般情况下主成分的个数应该小于原始变量的个数。应该保留几个主成分才能最大化的代表原始信息？5美国的统计学家斯通(Stone)在1947年关于国民经济的研究是一项十分著名的工作。他曾利用美国1929一1938年各年的数据，得到了17个反映国民收入与支出的变量要素，例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息

3、、利息、外贸平衡等等。在进行主成分分析后，竟以97.4％的精度，用三个新变量就取代了原17个变量。实例1:经济分析6实例2:成绩数据100个学生的数学、物理、化学、语文、历史、英语的成绩如下表（部分）。7从本例可能提出的问题目前的问题是，能不能把这个数据的6个变量用一两个综合变量来表示呢？这一两个综合变量包含有多少原来的信息呢？能不能利用找到的综合变量来对学生排序呢？8PCA多变量问题是经常会遇到的。变量太多，无疑会增加分析问题的难度与复杂性.在许多实际问题中，多个变量之间是具有一定的相关关系的。因

4、此，能否在各个变量之间相关关系研究的基础上，用较少的新变量代替原来较多的变量，而且使这些较少的新变量尽可能多地保留原来较多的变量所反映的信息？事实上，这种想法是可以实现的.9原理：主成分分析就是试图在力保数据信息丢失最少的原则下，对这种多变量的数据表进行最佳综合简化，也就是说，对高维变量空间进行降维处理。很显然，识辨系统在一个低维空间要比在一个高维空间容易得多。PCA的目标就是找到这样的“主元”(即问题中的主元成分)，最大程度的除冗余和噪音的干扰。10问题描述如何确定PCA方法中，到底应该取几个主成

5、分？请查阅文献并举例回答。HowtodefinethenumberofthecomponentsinPCA?Pleasefindthesolutionfromliterature.先假定数据只有二维，即只有两个变量，它们由横坐标和纵坐标所代表；因此每个观测值都有相应于这两个坐标轴的两个坐标值；如果这些数据形成一个椭圆形状的点阵（这在变量的二维正态的假定下是可能的）.12•••••••••••••••••••••••••••••••••••••主成分分析的几何解释平移、旋转坐标轴13•••••••••

6、••••••••••••••••••••••••••••主成分分析的几何解释平移、旋转坐标轴•14••••••••••••••••••••••••••••••••••••主成分分析的几何解释平移、旋转坐标轴•15•••••••••••••••••••••••••••••••••••••主成分分析的几何解释平移、旋转坐标轴•••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••••16椭圆有一个长轴和一个短轴。在短轴方向上，数据变化很少

7、；在极端的情况，短轴如果退化成一点，那只有在长轴的方向才能够解释这些点的变化了；这样，由二维到一维的降维就自然完成了。17二维数据18进一步解释PCA当坐标轴和椭圆的长短轴平行，那么代表长轴的变量就描述了数据的主要变化，而代表短轴的变量就描述了数据的次要变化。但是，坐标轴通常并不和椭圆的长短轴平行。因此，需要寻找椭圆的长短轴，并进行变换，使得新变量和椭圆的长短轴平行。如果长轴变量代表了数据包含的大部分信息，就用该变量代替原先的两个变量（舍去次要的一维），降维就完成了。椭圆（球）的长短轴相差得越大，降

8、维也越有道理。19主要内容一、主成分的定义及导出二、主成分的几何意义三、主成分的性质和例子一、主成分的定义及导出设为一个维随机向量，，。考虑如下的线性变换希望在约束条件下寻求向量，使得达到最大，就称为第一主成分。设为的特征值，为相应的单位特征向量，且相互正交。则可求得第一主成分为它的方差具有最大值。？最大化方差法：如果第一主成分所含信息不够多，还不足以代表原始的个变量，则需考虑再使用一个综合变量，为使所含的信息与不重叠，应要求我们在此条件和约束条件下寻求向量，使得达到