我有一些测试和训练数据,测试数据中没有任何依赖变量。
我目前正在运行GridSearchCV或RandomizedSearchCV来寻找最佳参数。
我是否应该将所有“测试”数据的X和y值传入GridSearchCV或RandomizedSearchCV中?
我知道它会进行交叉验证,所以我认为这样做是可以的?
但如果是这样的话,best_estimator是用哪些数据拟合的?是全部数据?还是某个折叠的数据?
运行后我是否需要用完整的测试数据集重新拟合?
回答:
这里提出了很多问题,我将尝试逐一回答。
- 我是否应该将所有“测试”数据的X和y值传入GridSearchCV或RandomizedSearchCV中?
您提到您的测试数据没有依赖变量,在这种情况下,您无法将其传入模型。即使您有依赖变量的值,您也不应该将它们发送到GridSearchCV
或RandomSearchCV
,这些方法会在内部创建一个验证集,用于测试每种超参数设置下的模型表现。
- best_estimator是用哪些数据拟合的?
这取决于您如何初始化GridSearchCV
或RandomizedSearchCV
对象,这两种方法都有一个名为refit
的参数,当设置为TRUE
(默认值)时,将使用全部数据重新拟合模型。
- 运行后我是否需要用完整的测试数据集重新拟合?
通常,您不会使用测试数据来调整超参数。您使用验证集来做这件事,一旦模型确定下来,您使用测试集来检查模型的性能,这将是对模型性能的无偏估计。