我有一个包含字符串和浮点数列的pandas DataFrame,需要将其分割成平衡的片段以训练sklearn管道。
理想情况下,我会使用StratifiedKFold来对DataFrame进行分割,以获取较小的数据块进行交叉验证。但它会抱怨说我有无法排序的类型,像这样:
import pandas as pd
from sklearn.cross_validation import StratifiedKFold
dataset = pd.DataFrame(
[
{'title': 'Dábale arroz a la zorra el abad', 'size':1.2, 'target': 1},
{'title': 'Ana lleva al oso la avellana', 'size':1.0, 'target': 1},
{'title': 'No te enrollé yornetón', 'size':1.4, 'target': 0},
{'title': 'Acá sólo tito lo saca', 'size':1.4, 'target': 0},
])
skfs = StratifiedKFold(dataset, n_folds=2)
>>> TypeError: unorderable types: str() > float()
虽然有方法可以获取折叠索引并对DataFrame进行切片,但我认为这并不能保证我的类别是平衡的。
分割我的DataFrame的最佳方法是什么?
回答:
sklearn.cross_validation.StratifiedKFold
自0.18版本起已被弃用,并将在0.20版本中移除。因此,这里提供一种替代方法:
from sklearn.model_selection import StratifiedKFold
skf = StratifiedKFold(n_splits=2)
t = dataset.target
for train_index, test_index in skf.split(np.zeros(len(t)), t):
train = dataset.loc[train_index]
test = dataset.loc[test_index]