我期望这两种方法返回的误差应该是相当相似的，有人能指出我的错误吗？
正在计算RMSE…
rf = RandomForestRegressor(random_state=555, n_estimators=100, max_depth=8)rf_preds = cross_val_predict(rf, train_, targets, cv=7, n_jobs=7) print("使用cv preds的RMSE分数: {:0.5f}".format(metrics.mean_squared_error(targets, rf_preds, squared=False)))scores = cross_val_score(rf, train_, targets, cv=7, scoring='neg_root_mean_squared_error', n_jobs=7)print("使用cv_score的RMSE分数: {:0.5f}".format(scores.mean() * -1))使用cv preds的RMSE分数: 0.01658使用cv_score的RMSE分数: 0.01073回答：
这里有两个问题，都在cross_val_predict的文档中有提到：
除非所有测试集大小相等且指标能按样本分解，否则结果可能会与
cross_validate和cross_val_score不同。
第一个问题是确保在两种情况下所有的集合（训练和测试）都是相同的，这在你的例子中并不成立。为此，我们需要使用kfold方法来定义我们的CV折叠，然后在两种情况下使用相同的折叠。以下是使用虚拟数据的一个示例：
from sklearn.datasets import make_regressionfrom sklearn.model_selection import KFold, cross_val_score, cross_val_predictfrom sklearn.ensemble import RandomForestRegressorfrom sklearn.metrics import mean_squared_errorX, y = make_regression(n_samples=2000, n_features=4, n_informative=2, random_state=42, shuffle=False)rf = RandomForestRegressor(max_depth=2, random_state=0)kf = KFold(n_splits=5)rf_preds = cross_val_predict(rf, X, y, cv=kf, n_jobs=5) print("使用cv preds的RMSE分数: {:0.5f}".format(mean_squared_error(y, rf_preds, squared=False)))scores = cross_val_score(rf, X, y, cv=kf, scoring='neg_root_mean_squared_error', n_jobs=5)print("使用cv_score的RMSE分数: {:0.5f}".format(scores.mean() * -1))上述代码片段的结果（完全可重现，因为我们明确设置了所有必要的随机种子）是：
使用cv preds的RMSE分数: 15.16839使用cv_score的RMSE分数: 15.16031因此，我们可以看到这两个分数确实相似，但仍然不完全相同。
为什么会这样呢？答案在于上面引用的句子的第二部分，即RMSE分数不能按样本分解（老实说，我不知道有任何ML分数可以做到这一点）。
简单来说，虽然cross_val_predict严格按照其定义计算RMSE，即（伪代码）：
RMSE = square_root([(y[1] - y_pred[1])^2 + (y[2] - y_pred[2])^2 + ... + (y[n] - y_pred[n])^2]/n)其中n是样本数，cross_val_score方法并不完全这样做；它所做的是计算每个k个CV折叠的RMSE，然后平均这些k个值，即（再次使用伪代码）：
RMSE = (RMSE[1] + RMSE[2] + ... + RMSE[k])/k正是因为RMSE不能按样本分解，这两个值虽然接近，但不完全相同。
我们实际上可以通过手动进行CV过程，并模拟cross_val_score所做的RMSE计算来证明这一点，即：
import numpy as npRMSE__cv_score = []for train_index, val_index in kf.split(X): rf.fit(X[train_index], y[train_index]) pred = rf.predict(X[val_index]) err = mean_squared_error(y[val_index], pred, squared=False) RMSE__cv_score.append(err)print("使用手动cv_score的RMSE分数: {:0.5f}".format(np.mean(RMSE__cv_score)))结果是：
使用手动cv_score的RMSE分数: 15.16031即与cross_val_score返回的值相同。
因此，如果我们想要非常精确，实际上，按照其定义精确计算的RMSE是cross_val_predict返回的；cross_val_score返回的是它的一个近似值。但在实践中，我们常常发现差异并不显著，所以如果更方便的话，我们也可以使用cross_val_score。
