我正在处理一个不平衡的数据集,并希望使用scikit的gridsearchcv来调整模型参数进行网格搜索。为了超采样数据,我想要使用SMOTE,并且我知道我可以将其作为管道的阶段并传递给gridsearchcv。我担心的是,我认为smote将被应用于训练和验证折叠,这不是你应该做的。验证集不应该被超采样。我的理解是整个管道将被应用于两个数据集分割吗?如果是的,那么我该如何解决这个问题?提前谢谢
回答:
是的,这是可以做到的,但需要使用imblearn Pipeline。
你看,imblearn有自己的Pipeline来正确处理采样器。我在这里的一个类似问题中描述了这一点。
当在imblearn.Pipeline
对象上调用predict()
时,它会跳过采样方法,并保持数据原样传递给下一个转换器。你可以通过查看这里的源代码来确认这一点:
if hasattr(transform, "fit_sample"): pass else: Xt = transform.transform(Xt)
所以,为了使其正确工作,你需要以下内容:
from imblearn.pipeline import Pipelinemodel = Pipeline([ ('sampling', SMOTE()), ('classification', LogisticRegression()) ])grid = GridSearchCV(model, params, ...)grid.fit(X, y)
根据需要填写细节,管道将处理其余部分。