使用cross_val_score计算的指标与从cross_val_predict(用于获取预测结果,然后传递给指标函数)开始计算的相同指标有何不同?
这里是一个例子:
from sklearn import cross_validationfrom sklearn import datasetsfrom sklearn import metricsfrom sklearn.naive_bayes import GaussianNBiris = datasets.load_iris()gnb_clf = GaussianNB()# 使用cross_val_predict计算平均准确率predicted = cross_validation.cross_val_predict(gnb_clf, iris.data, iris.target, cv=5)accuracy_cvp = metrics.accuracy_score(iris.target, predicted)# 使用cross_val_score计算平均准确率score_cvs = cross_validation.cross_val_score(gnb_clf, iris.data, iris.target, cv=5)accuracy_cvs = score_cvs.mean()print('Accuracy cvp: %0.8f\nAccuracy cvs: %0.8f' % (accuracy_cvp, accuracy_cvs))
在这种情况下,我们得到了相同的结果:
Accuracy cvp: 0.95333333Accuracy cvs: 0.95333333
然而,这似乎并非总是如此,正如官方文档中所述(关于使用cross_val_predict计算的结果):
请注意,此计算的结果可能与使用cross_val_score获得的结果略有不同,因为元素的分组方式不同。
回答:
想象以下标签和分割
[010|101|10]
因此你有8个数据点,每个类别4个,并将其分为3个折叠,导致2个折叠包含3个元素,一个折叠包含2个元素。现在假设在交叉验证过程中你得到以下预测
[010|100|00]
因此,你的得分是[100%,67%,50%],交叉验证得分(作为平均值)约为72%。那么预测的准确率如何呢?你显然有6/8个正确,因此为75%。如你所见,得分是不同的,尽管它们都依赖于交叉验证。这里,差异的产生是因为分割的大小不完全相同,因此最后的“50%”实际上降低了总分,因为它是对仅2个样本的平均(而其余的基于3个)。
可能存在其他类似的现象,总的来说 – 这应该归结为平均计算的方式。因此 – 交叉验证得分是对平均值的平均,这不一定是对交叉验证预测的平均。