第 4 章 聚类分析.ppt

《第 4 章 聚类分析.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第四章聚类分析中国地质大学（北京）计算机教研室管建和聚类分析（ClusterAnalysis）是研究“物以类聚”的一种多元统计方法。国内有人称它为群分析、点群分析、簇群分析等。4.1聚类分析的基本概念研究对样品或指标进行分类的一种多元统计方法,是依据研究对象的个体的特征进行分类的方法。聚类分析把分类对象按一定规则分成若干类，这些类非事先给定的，而是根据数据特征确定的。在同一类中这些对象在某种意义上趋向于彼此相似，而在不同类中趋向于不相似。职能是建立一种能按照样品或变量的相似程度进行分类的方法。聚类分析的基本思想是认为我们所研究的样本或指标（变量）之间存在着程度不同的相似性（亲疏关系）。于是

2、根据一批样本的多个观测指标，具体找出一些彼此之间相似程度较大的样本（或指标）聚合为一类，把另外一些彼此之间相似程度较大的样本（或指标）又聚合为另一类，关系密切的聚合到一个小的分类单位，关系疏远的聚合到一个大的分类单位，直到把所有样本（或指标）都聚合完毕，把不同的类型一一划分出来，形成一个由小到大的分类系统。最后把整个分类系统画成一张谱系图，用它把所有样本（或指标）间的亲疏关系表示出来。这种方法是最常用的、最基本的一种，称为系统聚类分析。除此以外，还有动态聚类法、图论聚类法、模糊聚类法、有序聚类法等。聚类分析有两种：一种是对样本的分类，称为Q型，另一种是对变量（指标）的分类，称为R型。R型聚

3、类分析的主要作用：⒈不但可以了解个别变量之间的亲疏程度，而且可以了解各个变量组合之间的亲疏程度。⒉根据变量的分类结果以及它们之间的关系，可以选择主要变量进行Q型聚类分析或回归分析。（R为选择标准）Q型聚类分析的主要作用：⒈可以综合利用多个变量的信息对样本进行分析。⒉分类结果直观，聚类谱系图清楚地表现数值分类结果。⒊聚类分析所得到的结果比传统分类方法更细致、全面、合理。那么Q型系统聚类法则可以表述为：把样本看成n维空间的点，而把变量看成n维空间的坐标轴，m个样本开始时自成一类，然后规定各类之间的距离，将距离最小的一对并成一类，然后再计算距离，直到所有单位全部合并为止。模式识别空间数据分析在G

4、IS中，通过聚类发现特征空间来建立主题索引；在空间数据挖掘中，检测并解释空间中的簇；图象处理经济学(尤其是市场研究方面)WWW文档分类分析WEB日志数据来发现相似的访问模式聚类的常规应用应用聚类分析的例子市场销售:帮助市场人员发现客户中的不同群体，然后用这些知识来开展一个目标明确的市场计划；土地使用:在一个陆地观察数据库中标识那些土地使用相似的地区；保险:对购买了汽车保险的客户，标识那些有较高平均赔偿成本的客户；城市规划:根据类型、价格、地理位置等来划分不同类型的住宅；地震研究:根据地质断层的特点把已观察到的地震中心分成不同的类；什么是一个好的聚类方法?一个好的聚类方法要能产生高质量的聚类

5、结果——簇，这些簇要具备以下两个特点：高的簇内相似性低的簇间相似性聚类结果的好坏取决于该聚类方法采用的相似性评估方法以及该方法的具体实现；聚类方法的好坏还取决与该方法是能发现某些还是所有的隐含模式；4.2距离和相似系数在进行聚类分析时，样本间的相似系数和距离有多种不同的定义，通常按特性来划分。变量特征的测度尺度有三种类型：间隔尺度（由连续的实值变量表示）有序尺度（没有明确的数量表示，只有次序关系，如产品等级）名义尺度（具有某种特性，如性别）从一组复杂数据产生一个相当简单的类结构，必然要求进行“相关性”或“相似性”的度量。在相似性度量的选择中，常常包含许多主观上的考虑，但最重要的考虑是

6、指标的性质或观测的尺度（名义、次序、间隔）以及相关知识。课堂上主要讨论的指标测量为间隔尺度的情况。⒈距离每个样本有p个指标，因此每个样本可以看成p维空间中的一个点，n个样本就组成p维空间中的n个点，这时很自然想到用距离来度量n个样本间的接近程度。用表示第i个样本与第j个样本之间的距离。一切距离应满足以下条件：常见的距离有：blockdistance绝对值距离：euclideandistance欧式距离squaredeuclideandistance平方欧式距离chebychevdistance切比雪夫距离minkowskidistance明考斯基距离（明氏距离）当q=1,2时，为绝对值、欧

7、式距离；若趋近无穷时，则为切比雪夫距离明氏距离在实际的运用很多，但有一些缺点。例如观测值的单位问题；指标间的相关问题，因此改进得到以下两种距离：Lanberra兰氏距离Mahalanobis马氏距离以上都是样本间距离的定义。⒉相似系数夹角余弦相关系数变量间的距离利用相似系数来定义距离利用样本协差阵来定义距离把变量Xi的n次观测值看成n维空间的点,在n维空间中定义m个变量间的距离。①夹角余弦两变量的夹角余弦定义为：②相关系