我刚开始学习机器学习,不明白为什么在KNN中使用随机置换。我参考的是http://www.scipy-lectures.org/advanced/scikit-learn/中的k-最近邻分类器部分。提供了以下代码:
>>> perm = np.random.permutation(iris.target.size)>>> iris.data = iris.data[perm]>>> iris.target = iris.target[perm]>>> knn.fit(iris.data[:100], iris.target[:100]) KNeighborsClassifier(...)>>> knn.score(iris.data[100:], iris.target[100:]) 0.95999...
并提出了这个问题:附加问题:为什么我们使用随机置换?
能有人帮助解释一下为什么置换会影响结果吗?
回答:
Iris数据集默认是按顺序排列的,前50个实例属于第一类,接下来的属于第二类,最后的属于第三类。如果不进行置换,它们将只在第一类和第二类上进行训练,并尝试预测第三类的标签。一般来说,从置换数据开始是一个好习惯,因为数据集创建者的方法可能会引入某种结构。