我正在尝试使用scikit-learn的GridSearchCV来实现高斯过程回归(GPR)。我使用的是一个大约200个点的较小数据集,并希望使用留一法交叉验证(LOOCV)作为模型性能评估器。我的设置是这样的:
from sklearn.model_selection import *from sklearn.ensemble import *from sklearn.gaussian_process import *param_grid = { 'kernel':[kernels.RBF(),kernels.Matern(length_scale=0.1)], 'n_restarts_optimizer':[5,10,20,25], 'random_state':[30]}res_GPR = GridSearchCV(estimator=GaussianProcessRegressor(),param_grid=param_grid,cv=LeaveOneOut(),verbose=20,n_jobs=-1)res_GPR.fit(X,y)
其中X和y分别是我的数据点和目标值。我知道GPR返回的评分方法是r^2,对于LOOCV情况这是不可定义的(因为只有一个测试元素),这通过获取拟合模型的.best_score_属性得到NaN来验证。因此,我希望模型仅使用每个测试案例的均方根误差(RMSE)进行评分,并在所有迭代中取平均值。我该如何实现这一点?
回答:
GridSearchCV
包含一个scoring
参数,你可以用它将评分设置为负的RMSE:
res_GPR = GridSearchCV(estimator=GaussianProcessRegressor(), param_grid=param_grid, cv=LeaveOneOut(), verbose=20, n_jobs=-1, scoring = 'neg_root_mean_squared_error')