《十五章聚类分析.ppt》由会员分享，可在线阅读，更多相关《十五章聚类分析.ppt（18页珍藏版）》请在三一文库上搜索。
1、第十五章 聚类分析,上海第二医科大学 生物统计教研室,聚 类 分 析 的 意 义,第一节 聚类分析的基本概念 聚类分析(Cluster analysis)又称集群分析，它是研究“物以类聚”的一种数理统计方法。聚类分析可将一些观察对象依据某些特征加以归类 。 例如临床上为修复耳缺损，可先以正常耳朵的耳长、耳宽、耳外展距等指标为依据，对耳朵进行聚类分析，把正常耳朵划分成几类，然后找出各类之标准化耳朵，以供临床修复各种耳缺损病员时参考。,聚类分析和判别分析的比较,判别分析时总体中各类别的划分是十分清楚的。判别分析需要知道一批已知分类的训练样品，在此基础上建立判别函数，所以它是有师可循的方法。 聚类分
2、析时总体中各类别的划分是不清楚的，甚至到底应分成几类也不知道，用于聚类分析的原始数据中没有类别变量，所以是无师可循的统计分析方法。,聚 类 分 析 的 方 法,系统聚类法：用于对小样本的样品间聚类及对指标聚类 。 逐步聚类法或称快速聚类法：用于对大样本的样品间聚类 。 有序样品聚类法：用于对有排列次序的样本的样品间聚类， 要求必须是次序相邻的样品才能聚在一类。,聚 类 分 析 的 方 法,模糊聚类法：建立在模糊数学基础上的对样品间聚类的方法， 适用于小样本。 分割聚类法：适用于对指标聚类,聚 类 统 计 量,定义：在聚类分析中反映样品或 变量间关系亲疏程度的统计量称为 聚类统计量，常用的聚类统
3、计量分 为距离和相似系数两种。 距 离： 用于对样品的聚类。 常用欧氏距离，在求距离前， 需把指标进行标准化 。 相似系数： 常用于对变量的聚类。 一般采用相关系数 。,第二节 系统聚类法 （systematic cluster method） 基本思想 ：首先定义样品间距离及类 与类之间的距离；开始时每个样品各 看成一类，将距离最近的两类合并; 重 新计算新类与其它类的距离，再将距 离最近的两类合并; 再计算新类与其它 类的距离，这样一步步的进行 下去，每一步减少一类，直至所有的 样品都合并成一类为止。,二 系统聚类法,系统聚类法,整个聚类过程可作成聚类图或树状谱(tree diagram)
4、，按树状谱作出适当的分类。类与类之间的距离有各种不同的定义方法。定义不同即产生不同的算法。而不同的算法可能聚得不同的结果。实践中可用不同的方法，聚得多个结果，然后根据专业知识选择较合理的分类结果。,类与类间距离定义方法,类与类之间距离定义方法： 最短距离法(single linkage)： 类与类之间距离定义为两类间样 品距离的最小值。 最长距离法(complete linkage) ： 类与类之间距离定义为两类间样 品距离的最大值。,类与类间距离定义方法,重心法(centroid method) ： 类与类之间距离定义为两类的重心 之间的距离。 类平均法(average linkage) ：
5、 类与类之间距离定义为两类间样 品距离的平均值 。,定义类与类之间距离方法示意图：,A2 A1 * *,B2 B1 * * B3 *,A类 B类,类与类间距离定义方法,类与类间距离定义方法,中间距离法(median method) 可变类平均法(flexible-beta method) 、 Mcquitty的相似分析法(Mcquittys similarity analysis) Ward离差平方和法(Wards minimum-variance method) 、 最大似然估计法(EML)、 密度估计(density linkage) 两阶段密度估计法(two-stage density
6、linkage),快 速 聚 类 法 原 理,第三节 快速聚类法 它首先选择一些初始凝聚点, 把这些 凝聚点作为今后聚类的核心; 接着把每个 样品根据欧氏距离归入到与该样品最近的 凝聚点所代表的类，以构成暂时的类; 再 用这些暂时的类的重心代替初始凝聚点 作为新的凝聚点，再一次把每个样品归 入到与该样品最近的凝聚点所代表的类, 构成新的暂时的类，这样一直进 行下去,直至分成的类再没有什么变化为 止。,快 速 聚 类 法 原 理,初始凝聚点可以人为地凭经验选择，以这些初始凝聚点建立一个数据文件,在FASTCLUS的SEED=选择项中输入该数据文件即可。 初始凝聚点也可由FASTCLUS过程自动选
7、择。如果由过程自动选择初始凝聚点则需在选择项MAXCLUSTERS=k(或MAXC=k)中给出所允许分类的最大个数，选用不同的k值可得到不同的聚类结果，根据专业知识和实际应用的需要，从中选择较合理的分类结果。,快 速 聚 类 法 原 理,注意： 快速聚类法须调用FASTCLUS过程，但FASTCLUS过程没有对指标进行标准化的功能，因此，须先用STANDARD过程对聚类指标进行标准化，然后再调用FASTCLUS过程进行快速聚类分析。,指 标 分 割 聚 类 法 原 理,第四节 对指标的分割聚类法 分割聚类的过程如下：首先给出一个 初始分类，然后重复以下步骤： (1)挑选一个欲分割的类，这个被分
8、割的类 的类内差异最大。 (2)把选中的类分割成两个类。再根据某准 测把此类中所有变量分别归入这两个类。 这种分割过程一直进行下去，直至达到 某种分割停止准则为止。,指 标 分 割 聚 类 法 原 理,分割停止准则可为： (1) 已达到了用户指明的所期望分类 的最大个数。可用MAXC=变量数。 (2)每类类成份所能解释的方差所占 比例都大于某指定值。 (3)每类第二特征根均小于某指定值。 第(2)和(3)意味着每个类别内各指标间的关系都很密切，不需要再进一步分割。 PROC VARCLUS有很多选择项，但用缺省值通常就能够得出很好的结果，因而在一般情况下均使用缺省说明。,指 标 分 割 聚 类 法 原 理,初始分类可由用户给出，可指定某些变 量作为初始分类。如果没有提供初始分类 情况，SAS的VARCLUS过程开始把所有 变量都合为一个类，然后开始分割。 VARCLUS过程也可根据用户的要求使 不同层次的类，构成一个系统结构， 即相 当于系统聚类，用户可选用HIERARCHY 选择项达到此要求， 其聚类过程的树状结 构可用选择项OUTTREE=SAS数据集，输 出到数据集中，进一步用TREE过程画出 聚类图。,