我在Coursera上参加了Andrew Ng的机器学习课程。在讨论聚类时,他告诉我们K-means聚类算法是最广泛使用的。我之前也使用过Kruskal算法进行聚类,这是一种非常高效的算法,采用了路径压缩和基于等级的联合。是什么让K-means比Kruskal算法更好呢?
回答:
Kruskal算法和K-means聚类通常会生成非常不同的聚类,因为它们被优化用于寻找不同的东西。
例如,考虑一条线上n个点,这些点大致均匀分布,但每个点与其右侧的点比与其左侧的点的距离略远一些。也就是说,如果你放大看,你大致会看到n个均匀分布的点,但在放大后你会发现这些距离并不是完全相同的,而是从左到右逐渐增加的。
Kruskal算法找到的是最大分离聚类,这意味着它将节点分开,使聚类之间的距离尽可能大。在这种情况下,当k=2时,最大分离聚类会是什么样子呢?由于距离从左到右增加,它会找到一个聚类,即“除了最右边的节点之外的所有节点”和“最右边的节点”。
另一方面,K-means聚类找到的是最小化聚类内方差的聚类,这意味着它将节点分组,使得聚类内的节点彼此尽可能接近。在上述数据集上运行K-means将大致将点从中心线一分为二,返回两个大小大致相同的聚类。
那么哪个聚类是“更好”的呢?这取决于你的应用。我认为大多数情况下我们更喜欢第二个聚类,因为我们希望聚类中的节点彼此尽可能相似。这就是为什么我们经常看到K-means聚类比Kruskal算法使用得更多,尽管仍然有Kruskal算法有用的情况。
请注意,这个问题与效率无关。是的,Kruskal算法非常快,但它计算的东西与K-means计算的不同。
希望这对你有帮助!