我对k-mean++初始化感到困惑。我理解k-mean++会选择最远的数据点作为下一个数据中心。但是,异常值怎么办?“使用进一步优先遍历的初始化”和“k-mean++”有什么不同?
我看到有人这样解释:
这里是一个一维的例子。我们的观测值是[0, 1, 2, 3, 4]。假设第一个中心c1为0。下一个聚类中心c2是x的概率与||c1-x||^2成比例。因此,P(c2 = 1) = 1a, P(c2 = 2) = 4a, P(c2 = 3) = 9a, P(c2 = 4) = 16a,其中a = 1/(1+4+9+16)。
假设c2=4。那么,P(c3 = 1) = 1a, P(c3 = 2) = 4a, P(c3 = 3) = 1a,其中a = 1/(1+4+1)。
如果这个数组或列表是[0,1,2,4,5,6,100]。显然,100在这个例子中是异常值,并且在某个时刻会被选为数据中心。有人能给出更好的解释吗?
回答:
K-means是根据概率选择点的。
但是,是的,对于极端的异常值,它很可能会选择那个异常值。
这是可以的,因为k-means也会这样做。最可能的最佳SSQ解决方案是有一个只包含那个点的单元素聚类。
如果你有这样的数据,k-means的解决方案往往相当无用,你可能应该选择其他算法,比如DBSCAN。