1、聚类分析,主要内容,一、概述 二、聚类分析的主要方法 三、聚类分析的统计量 四、SAS解决方案,概述,定义 聚类分析是根据“物以类聚”的道理，对样品或指标进行分类的一种多元统计分析方法，它们讨论的对象是大量的样品，要求能合理地按各自的特性来进行合理的分类，没有任何模式可供参考或依循，即是在没有先验知识的情况下进行的。,基本思想 样本（或变量）间存在着相似性，根据多个观测指标，找出能度量样本之间相似程度的统计量，以其为依据，把相似程度较大的样本聚合为一类，关系密切的聚合到一个小的分类单位，关系疏远的聚合到一个大的分类单位，直到把所有的样本都聚合完毕，把不同的类型一一划分出来，形成一个由小到大的分
2、类系统。 聚类原则是同一类中的个体有较大的相似性，不同类中的个体差异很大。,基本程序 是根据一批样品的多个观测指标，具体地找出一些能够度量样品或指标之间相似程度的统计量，然后利用统计量将样品或指标进行归类。 具体进行聚类时，由于目的、要求不同，因而产生各种不同的聚类方法：,由小类合并到大类的方法 由大类分解为小类的方法 静态聚类法、动态聚类法 按样本聚类（Q）、按指标聚类（R）,举例 对上市公司的经营业绩进行分类；据经济信息和市场行情，客观地对不同商品、不同用户及时地进行分类。又例如当我们对企业的经济效益进行评价时，建立了一个由多个指标组成的指标体系，由于信息的重叠，一些指标之间存在很强的相关
3、性，所以需要将相似的指标聚为一类，从而达到简化指标体系的目的。,按照聚类分析分组依据的原则不同分组按照聚类分析的对象不同分组,聚类分析主要方法,系统聚类分析法 动态聚类分析法 模糊聚类法 图论聚类法 聚类预报法,Q型聚类分析法 R型聚类分析法,系统聚类分析法 在样品距离的基础上定义类与类的距离，首先将各个样品自成一类，然后每次将具有最小距离的两个类合并，合并后再重新计算类与类之间的距离，再并类，这个过程一直持续到所有的样品都归为一类为止。这种聚类方法称为系统聚类法。根据并类过程所做的样品聚类过程图称为聚类谱系图。,动态聚类分析法 将个样品初步分类，然后根据分类函数尽可能小的原则，对初步分类进行
4、调整优化，直到分类合理为止。这种分类方法一般称为动态聚类法，也称为调优法。模糊聚类分析法 利用模糊数学中模糊集理论来处理分类问题，它对经济领域中具有模糊特征的两态数据或多态数据具有明显的分类效果。,图论聚类法 利用图论中最小支撑树（MST）的概念来处理分类问题，是一种独具风格的方法。聚类预报法 利用聚类方法处理预报问题，主要是处理一些异常数据，如气象中的灾害性天气的预报，这些异常数据采用回归分析或判别分析处理的效果不好，而聚类预报可以弥补回归分析及判别分析方法之不足，是一个很值得重视的方法。,Q型聚类分析法 对样本进行分类，是具有共同特点的样本聚在一起，以便对不同类的样本进行分析。 作用 综合
5、利用多个变量对样品进行分类； 分类结果直观，聚类谱系图清晰； 聚类结果细致、全面、合理。,R型聚类分析法 对变量进行的分类处理。 作用 了解变量之间，以及变量组合之间的亲疏程度； 根据变量分类的结果，可以选择最佳的变量组合进行回归分析或者Q型聚类分析。选择最佳变量，即在聚合的每类变量中选出一个具有代表性的变量作为典型变量。,Q型聚类的统计量 对样品进行分类时，通常采用距离来表示样品之间的亲疏程度。 常用的距离有： （1）明氏距离（明科夫斯基Minkowski） （2）兰氏距离（Lance和Williams） （3）马氏距离（Mahalanobis） （4）斜交空间距离,聚类分析的统计量,R型聚
6、类的统计量 对变量进行聚分类析时，通常采用相似系数来表示变量之间的亲疏程度。 常用的相似系数有： （1）夹角余弦 （2）相关系数 （3）指数相似系数 （4）非参数方法,SAS解决方案,CLUSTER 过程 FASTCLUS 过程 ACECLUS 过程 VARCLUS 过程 TREE语句格式,CLUSTER语句格式,数据若为原始数值形式，CLUSTER过程以欧式距离为默认的距离计算方法。,PROC CLUSTER METHOD=name; BY variables; COPY variable; ID variable; RMSSTD variable; VAR variables; RUN;,
7、例题1,在CLUSTER语句的“METHOD= ”关键字下，可以指定11种系统聚类方法。AVERAGE:类平均法CENTROID:重心法COMPLETE:最长距离法DENSITY:密度估计法EML:最大似然谱系聚类FLEXIBLE:可变类平均法MCQUITTY:可变法及McQuitty相似分析法MEDIAN:中间距离法SINGLE:最短距离法TWOSTAGE:两阶段密度估计法WARD:离差平方和法,FASTCLUS语句格式,研研究事先知道类别的个数，但不知道这些类别当中的具体样本，这时采用快速聚类方法。默认情况下，fastclus过程以欧式距离作为分类的判断标准。,PROC FASTCLUS
8、MAXCLUSTERS=n|RADIUS=t; VAR variables; ID variable； FREQ variable； WEIGHT variable； BY variables; RUN;,例题2,例题1,数据集drink收集了16种饮料的热量、咖啡因、钠及价格四种变量的值。现在希望利用这四个变量对这些饮料品牌进行聚类。,例题1,【SAS程序】,proc cluster data=sasuser.drink method=ward;var calorie caffeine sodium price; proc tree; run;,树形图,例题2,假如我们要对游泳运动员进行分项
9、训练，对10名运动员的三项测试数据记录如下。其中变量xl肩宽髋宽100；x2胸厚胸围100；x3腿长身长100。按泳姿（蝶泳、仰泳、蛙泳、自由泳）对运动员进行聚类。,【SAS程序】,proc fastclus data=sasuser.athlete maxc=4 list Outtree=tree; var x1-x3; proc print data=tree; run;,ACECLUS语句格式,ACECLUS 过程假设各类别为多元正态分布且协方差阵相等，多用于 对大型数据聚类分析的预分析。ACECLUS 过程的语句格式: PROC ACECLUS PROPOTION=p|THRESHOL
10、D=t; BY variables; FREQ variable; VAR variables; WEIGHT variable; RUN;,VARCLUS语句格式,对变量作谱系聚类或分离聚类，即R聚类。 PROC VARCLUS ; VAR variables; SEED variables; PARTIAL variables; WEIGHT variables; FREQ variables; BY variables; RUN;,TREE语句格式,TREE 过程将cluster过程和varclus过程输出的特定数据集作为输入数据集，绘制出详细的用于描述整个聚类过程的树状图。 PROC TREE ; NAME variables; HEIGHT variables; PARENT variables; BY variables; COPY variables; FREQ variable; ID variable; RUN,例：100个学生的数学、物理、化学、语文、历史、英语的成绩如下表（部分）。,【SAS程序】 Proc Varclus DATA=sasuser.kejian Outtree=tree1; var math phys chem literat history english; Proc Tree data=tree1; Run;,THANK YOU!,
