资源描述:
《数学建模聚类分析.ppt》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、聚类分析一、聚类分析(ClusterAnalysis)简介聚类分析是直接比较各事物之间的性质,将性质相近的归为一类,将性质差别较大的归入不同的类的分析技术。数理统计中的数值分类有两种问题:判别分析:已知分类情况,将未知个体归入正确类别聚类分析:分类情况未知,对数据结构进行分类基本思想聚类分析的基本思想:对所研究的样品或指标(变量)之间存在着程度不同的相似性(或亲疏关系)。(1)根据一批样品的多个指标,具体找出一些能够度量样品或指标之间的相似程度的统计量。(2)以这些统计量为分类的依据,把一些相似程度较大的样品(或指标)聚合为一类。把另一些彼此之间相似程度较大的样品(或指标)
2、聚合为另一类。基本思想按相似程度的大小把关系密切的样品聚合到一个小的分类单位,关系疏远的样品聚合到一个大的分类单位,直到把所有的样品(或指标)都聚合完毕。把不同的类型一一划分出来,形成一个由小到大的分类系统。再把整个分类系统画成一张分群图(又称谱系图),用它把所有样品(或指标)间的亲疏关系表示出来。要做聚类分析,首先得按照我们聚类的目的,从对象中提取出能表现这个目的的特征指标;然后根据亲疏程度进行分类。聚类分析根据分类对象的不同可分为Q型和R型两大类Q型是对样本进行分类处理,其作用在于:具有共同特点的样本聚在一起所得结果比传统的定性分类方法更细致、全面、合理二、聚类对象R型
3、是对变量进行分类处理,其作用在于:可以了解变量间及变量组合间的亲疏关系可以根据变量的聚类结果及它们之间的关系,选择主要变量进行回归分析或Q型聚类分析2相似性度量进行“相关性”或“相似性”度量。在相似性度量中常常包含有许多主观上的考虑,但是最重要的是考虑指标性质或观测的尺度。当样品进行聚类时,“靠近”往往是距离。同时对指标进行聚类时,根据相关系数或某种关联性度量来聚类。Q型样品间的“相似性”度量—距离设每个样品有p个指标,观察值记为(1)每个样品可看成是p维空间的一个点。于是,可用各点之间的距离来衡量各样品点之间的接近程度。样品和之间的距离,一般应满足如下条件:(ⅰ),且时当
4、且仅当;(ⅱ);(ⅲ);有时所用的距离不满足(ⅲ),但在广义的角度上仍称为距离。常用的距离有如下几种:3、明考斯基距离(Minkowski)1、绝对距离(Block距离)2、欧氏距离(Euclideandistance)4、切比雪夫距离(Chebychev)6.马氏距离5.数据的标准化以上距离与各变量的量纲有关,为了消除量纲的影响,可对数据标准化。例1欧洲各国的语言有许多相似之处,有的十分相似。为了研究这些语言的历史关系,也许通过比较他们数字的表达式比较恰当。表列举出英语,挪威语,丹麦语,荷兰语,德语,法语,西班牙语,意大利语,波兰语,匈牙利语和芬兰语的1,2,…,10的拼
5、法,希望计算这11种语言之间的语言的距离.11种欧洲语言的数词选择适用的距离在聚类分析中通常要结合实际问题来选择适用的距离,有时应根据实际问题定义新的距离,显然,本例无法直接用上述公式来计算距离。但可以发现前三种文字(英、挪、丹)很相似,特别是每个单词的第一个字母。可以用10个数词中第一个字母不同的个数来定义两种语言之间的距离。例如:英语和挪威语中只有1和8的第一个字母不同,则它们之间的距离为2。1、夹角余弦2、相关系数R型聚类统计量对两个指标之间的相似程度用相似系数来刻划,相似系数绝对对值越接近于1,表示指标间的关系越密切,绝对值越接近于0,表示指标间的关系越疏远.三系统
6、聚类分析1.系统聚类分析的基本思想是:距离相近的样品(或变量)先聚成类,距离相远的后聚成类,过程一直下去,每个样品(或变量)总能聚到合适的类中。系统聚类分析过程是:假设总共有n个样品(或变量),第一步将每个样品(或变量)独自聚成一类,共有n类;第二步根据所确定的样品(或变量)“距离”公式,将距离较近的两个样品(或变量)聚合为一类,其他样品(或变量)仍各自聚为一类,共有n-1类;第三步将“距离”最近的两个类进一步聚成一类,共聚成n-2类;……以上步骤一直进行下去,最后将所有的样品或变量)聚成一类。将整个分类系统地画成一张谱系图,所以有时系统聚类分析也叫谱系聚类分析。2.类间距
7、离首先定义类与类之间地距离,又类间的距离定义不同产生不同的系统聚类分析。常见的类间的距离有法。它们的归类步骤基本是一致的。8种之多,与之相应的系统聚类分析也有8种之多、分别为最短距离法、最长距离法、中间距离法、重心法、类平均法、可变类平均法、可变法和离差平方和用i,j表示样品。用表示与之间的距离,用与表示两个类,所包含的样品数分别为与之间的距离用表示。下面给出四种最常用的类与类之间距离的定义。1、最短距离(NearestNeighbor)x21•x12•x22•x11•即定义与之间的距离为与中最近的两个样品的距离。