使用Scikit-learn中的Smote和Gridsearchcv

我正在处理一个不平衡的数据集,并希望使用scikit的gridsearchcv来调整模型参数进行网格搜索。为了超采样数据,我想要使用SMOTE,并且我知道我可以将其作为管道的阶段并传递给gridsearchcv。我担心的是,我认为smote将被应用于训练和验证折叠,这不是你应该做的。验证集不应该被超采样。我的理解是整个管道将被应用于两个数据集分割吗?如果是的,那么我该如何解决这个问题?提前谢谢


回答:

是的,这是可以做到的,但需要使用imblearn Pipeline

你看,imblearn有自己的Pipeline来正确处理采样器。我在这里的一个类似问题中描述了这一点

当在imblearn.Pipeline对象上调用predict()时,它会跳过采样方法,并保持数据原样传递给下一个转换器。你可以通过查看这里的源代码来确认这一点:

        if hasattr(transform, "fit_sample"):            pass        else:            Xt = transform.transform(Xt)

所以,为了使其正确工作,你需要以下内容:

from imblearn.pipeline import Pipelinemodel = Pipeline([        ('sampling', SMOTE()),        ('classification', LogisticRegression())    ])grid = GridSearchCV(model, params, ...)grid.fit(X, y)

根据需要填写细节,管道将处理其余部分。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注