在Python中拆分数据,使得每个受试者保持在一个折叠中(m折交叉验证)

事情是这样的。我正在为5个患者(P1,P2,…P5)应用一个二分类器。每个患者有100个数据样本,输出要么是0,要么是1。

所以我把一个患者(比如P5)作为测试数据放在一边,其余的用于验证和训练。但我还想找到分类器(比如SVM)的最佳超参数设置,因此我也在使用4折交叉验证来实现这一点。

然而,我希望确保将训练数据拆分为交叉训练和交叉测试时,某一个患者的所有样本都保持在交叉测试折中。我不希望它们被打乱,因为这样的话,一个患者的数据可能会同时出现在测试和训练折中,这是不好的。

我在Python中使用GridSearchCV来拆分数据,但我不知道如何定制它,使得我们能够实现:P1的100个样本在测试折中,P2、P3、P4的所有300个样本在训练折中………. P4的100个样本在测试折中,P1、P2、P3的所有300个样本在训练折中。

换句话说,我想创建一个患者指示器,让GridSearchCV根据此指示器来拆分数据。

我们是否有相关的包可以使用,还是我应该尝试手动编写代码,而不使用GridSearchCV或类似的工具?


回答:

你应该使用scikit-learn的GroupKFold。它可以轻松解决你的问题。使用一个名为patients的列表作为分组,这样如果样本i属于患者2,则patients[i] == "p2"

这是文档链接。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注