本主题简要概述了Statistics和Machine Learning Toolbox™中可用的聚类方法。
聚类分析,也叫市场细分分析或分类分析,是一种常见的无监督学习方法。无监督学习用于从没有标记响应的输入数据组成的数据集中得出推论。例如,可以使用聚类分析进行探索性数据分析,以发现未标记数据中的隐藏模式或分组。
聚类分析创建组,或集群的数据。属于同一集群的对象彼此相似,而不同于属于不同集群的对象。要量化“相似”和“不同”,可以使用不同度量(或距离度量),它是特定于应用程序和数据集的域的。此外,根据您的应用程序,您可能会考虑伸缩(或标准化)数据中的变量,以便在集群过程中给予它们同等的重要性。
Statistics and Machine Learning Toolbox为这些聚类方法提供了功能:
分层集群通过创建集群树来在不同规模上对数据进行分组系统树图.树不是一组集群,而是一个多级层次结构,其中一层的集群结合起来形成下一层的集群。这种多级层次结构允许您选择最适合您的应用程序的集群级别或规模。分层集群将数据中的每个点分配到一个集群中。
使用clusterdata
对输入数据执行分层聚类。clusterdata
包含了pdist
,链接
,集群
函数,您可以单独使用它们进行更详细的分析。的系统树图
函数绘制集群树。有关更多信息,请参见层次聚类简介.
k——集群和k-medoids群集分区数据k相互排斥的集群。这些集群方法要求您指定集群的数量k.这两个k则和k-medoids集群将数据中的每个点分配给一个集群;然而,与层次聚类不同的是,这些方法根据实际观察(而不是不同的度量)操作,并创建单个层次的聚类。因此,k——或k-medoids聚类通常比分层聚类更适合大量数据。
使用kmeans
和kmedoids
来实现k——集群和k分别-medoids集群。有关更多信息,请参见介绍k聚类则和k-Medoids集群.
DBSCAN是一种基于密度的算法,用于识别数据中任意形状的聚类和异常值(噪声)。在聚类过程中,DBSCAN识别出不属于任何聚类的点,这使得该方法在基于密度的离群点检测中非常有用。不像k则和k-medoids聚类,DBSCAN不需要预先知道簇的数量。
高斯混合模型(GMM)以多元正态密度成分的混合形式形成簇。对于给定的观测,GMM将后验概率分配给每个分量密度(或簇)。后验概率表明观测有一定的概率属于每一簇。GMM可以执行硬通过选择后验概率最大的分量作为观测分配的聚类。您还可以使用GMM执行软,或模糊,通过将观察结果分配给多个聚类,基于对聚类的观察结果的得分或后验概率。GMM可能是一种比k-表示集群,当集群具有不同的大小和内部不同的关联结构时。
使用fitgmdist
适合一个gmdistribution
反对您的数据。你也可以用gmdistribution
通过指定分布参数来创建GMM对象。当您有合适的GMM时,您可以使用集群
函数。有关更多信息,请参见使用高斯混合模型聚类.
k-最近的邻居搜索找到k数据中离查询点或查询点集最近的点。相反,半径搜索查找数据中与某个查询点或一组查询点之间的指定距离内的所有点。这些方法的结果取决于距离度量你指定。
使用knnsearch
函数来找到k-最近的邻居或rangesearch
函数查找与输入数据的指定距离内的所有邻居。您还可以使用训练数据集创建搜索器对象,并将对象和查询数据集传递给对象函数(knnsearch
和rangesearch
).有关更多信息,请参见使用最近邻进行分类.
谱聚类是一种基于图的搜索算法k数据中任意形状的簇。该技术涉及用低维表示数据。在低维中,数据中的集群更广泛地分离,使您能够使用诸如k——或k-medoids集群。这个低维是基于拉普拉斯矩阵的特征向量。拉普拉斯矩阵是一种表示相似性图的方法,它将数据点之间的局部邻域关系建模为无向图。
使用spectralcluster
对输入数据矩阵或相似图的相似矩阵进行谱聚类。spectralcluster
需要指定集群的数量。然而,光谱聚类算法也提供了一种估计数据中聚类数量的方法。有关更多信息,请参见利用谱聚类划分数据.
该表比较了统计学和机器学习工具箱中可用的聚类方法的特点。
方法 | 基础算法 | 算法的输入 | 需要指定的集群数量 | 集群的形状识别 | 对离群值检测有用 |
---|---|---|---|---|---|
分层聚类 | 对象之间的距离 | 观察值之间的成对距离 | 没有 | 任意形状的簇,根据指定“链接” 算法 |
没有 |
k - means聚类和k-Medoids集群 | 物体和质心之间的距离 | 实际观察 | 是的 | 具有相等对角协方差的球状簇 | 没有 |
基于密度的含噪声空间聚类应用(DBSCAN) | 数据中的区域密度 | 实际观测值或观测值之间的成对距离 | 没有 | 任意形状的簇 | 是的 |
高斯混合模型 | 混合高斯分布 | 实际观察 | 是的 | 具有不同协方差结构的球状簇 | 是的 |
最近的邻居 | 对象之间的距离 | 实际观察 | 没有 | 任意形状的簇 | 是的,取决于指定的邻居数量 |
谱聚类(利用谱聚类划分数据) | 表示数据点之间连接的图表 | 实际观察或相似矩阵 | 是的,但是算法也提供了一种估计集群数量的方法 | 任意形状的簇 | 没有 |