我在使用scikit-learn的MDS方法对一些数据进行降维。我希望检查压力值以评估降维的质量。我期望得到的数值在0到1之间。然而,我得到的值却超出了这个范围。以下是一个最简示例:
%matplotlib inlinefrom sklearn.preprocessing import normalizefrom sklearn import manifoldfrom matplotlib import pyplot as pltfrom matplotlib.lines import Line2Dimport numpydef similarity_measure(vec1, vec2): vec1_x = numpy.arctan2(vec1[1], vec1[0]) vec2_x = numpy.arctan2(vec2[1], vec2[0]) vec1_y = numpy.sqrt(numpy.sum(vec1[0] * vec1[0] + vec1[1] * vec1[1])) vec2_y = numpy.sqrt(numpy.sum(vec2[0] * vec2[0] + vec2[1] * vec2[1])) dot = numpy.sum(vec1_x * vec2_x + vec1_y * vec2_y) mag1 = numpy.sqrt(numpy.sum(vec1_x * vec1_x + vec1_y * vec1_y)) mag2 = numpy.sqrt(numpy.sum(vec2_x * vec2_x + vec2_y * vec2_y)) return dot / (mag1 * mag2)plt.figure(figsize=(15, 15))delta = numpy.zeros((100, 100))data_x = numpy.random.randint(0, 100, (100, 100))data_y = numpy.random.randint(0, 100, (100, 100))for j in range(100): for k in range(100): if j <= k: dist = similarity_measure((data_x[j].flatten(), data_y[j].flatten()), (data_x[k].flatten(), data_y[k].flatten())) delta[j, k] = delta[k, j] = distdelta = 1-((delta+1)/2) delta /= numpy.max(delta)mds = manifold.MDS(n_components=2, max_iter=3000, eps=1e-9, random_state=0, dissimilarity="precomputed", n_jobs=1)coords = mds.fit(delta).embedding_print mds.stress_plt.scatter(coords[:, 0], coords[:, 1], marker='x', s=50, edgecolor='None')plt.tight_layout()
在我的测试中,输出了以下结果:
263.412196461
并生成了以下图像:
在不知道最大值的情况下,我该如何分析这个值?或者如何对其进行归一化,使其在0到1之间?
谢谢。
回答:
这是因为当前scikit-learn的实现计算并返回的是原始压力值(σr),而你期望的是压力-1(σ1)。
前者不太具有信息性(其高值并不一定表示拟合不好),更好的表达可靠性的方法是计算归一化压力,例如,根据Kruskal(1964年,第3页)的说法,压力-1大致有以下解释:值0表示完美拟合,0.025表示极好,0.05表示好,0.1表示一般,0.2表示差。
我刚刚实现了压力-1的计算,并提交了PR。在此期间,可以使用这个分支的版本,当normalize参数设置为True(默认为False)时,将使用并返回压力-1而不是原始压力。
更多信息请参考Kruskal(1964年,第8-9页)或Borg和Groenen(2005年,第41-43页)。