在Python中拆分数据,使得每个受试者保持在一个折叠中(m折交叉验证)

事情是这样的。我正在为5个患者(P1,P2,…P5)应用一个二分类器。每个患者有100个数据样本,输出要么是0,要么是1。

所以我把一个患者(比如P5)作为测试数据放在一边,其余的用于验证和训练。但我还想找到分类器(比如SVM)的最佳超参数设置,因此我也在使用4折交叉验证来实现这一点。

然而,我希望确保将训练数据拆分为交叉训练和交叉测试时,某一个患者的所有样本都保持在交叉测试折中。我不希望它们被打乱,因为这样的话,一个患者的数据可能会同时出现在测试和训练折中,这是不好的。

我在Python中使用GridSearchCV来拆分数据,但我不知道如何定制它,使得我们能够实现:P1的100个样本在测试折中,P2、P3、P4的所有300个样本在训练折中………. P4的100个样本在测试折中,P1、P2、P3的所有300个样本在训练折中。

换句话说,我想创建一个患者指示器,让GridSearchCV根据此指示器来拆分数据。

我们是否有相关的包可以使用,还是我应该尝试手动编写代码,而不使用GridSearchCV或类似的工具?


回答:

你应该使用scikit-learn的GroupKFold。它可以轻松解决你的问题。使用一个名为patients的列表作为分组,这样如果样本i属于患者2,则patients[i] == "p2"

这是文档链接。

Related Posts

多维度Top-k评分

例如,在机器学习中的自然语言处理中,通常使用波束搜索来…

R – Caret train() “错误:停止” 与 “在newdata中未找到对象中使用的所有变量名”

我正在尝试为蘑菇数据构建一个简单的朴素贝叶斯分类器。我…

创建训练和测试数据集分割,数据嵌套在多个文件夹中

我正在准备数据以训练一个图像识别模型。目前我有一个文件…

我的神经网络预测出现错误:IndexError: list index out of range

我正在进行一个简单的垃圾邮件/非垃圾邮件文本分类。我的…

python 给出数组是一维的,但索引了两个维度错误

我已经为 miniBatchGradientDesce…

TensorFlow自定义训练步骤使用不同的损失函数

背景 根据TensorFlow文档,可以使用以下方式执…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注