我使用scikit-learn 交叉验证，例如得到了0.82的平均分数（r2_scorer）。我如何使用scikit-learn的功能来判断是否存在过拟合或欠拟合？

回答：

遗憾的是，我确认在交叉验证设置中没有内置工具可以比较训练和测试分数。cross_val_score工具只报告测试分数。

您可以像Ando的回答中那样使用train_test_split函数设置自己的循环，但您也可以使用任何其他交叉验证方案。

import numpy as npfrom sklearn.cross_validation import KFoldfrom sklearn.metrics import SCORERSscorer = SCORERS['r2']cv = KFold(5)train_scores, test_scores = [], []for train, test in cv:    regressor.fit(X[train], y[train])    train_scores.append(scorer(regressor, X[train], y[train]))    test_scores.append(scorer(regressor, X[test], y[test]))mean_train_score = np.mean(train_scores)mean_test_score = np.mean(test_scores)

如果您通过交叉验证计算了平均训练和测试分数，您就可以判断是否存在以下情况：

• 欠拟合：训练分数与完美分数（对于r2来说是1.0）相差甚远
• 过拟合：训练和测试分数彼此相差较大（平均测试分数显著低于平均训练分数）。

注意：如果您的模型不合适且数据噪音过大，您可能会同时出现显著的欠拟合和过拟合情况。