我的数据中有99%的目标变量为1,只有1%的目标变量为’0’。使用stratify参数能保证训练集和测试集在目标变量上的比例相同吗?也就是说,训练集和测试集中包含等量的’1’和’0’吗?
请查看以下代码以便澄清
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2,stratify=y,random_state=42)
回答:
分层(Stratification)只是返回一部分数据,这些数据可能会根据你传递的参数进行洗牌或不洗牌。假设你的数据集包含100个类别1的实例和10个类别0的实例,你决定按70:30的比例进行分割,假设你传递了适当的参数以获得训练集中63-class1
实例和7-class0
实例,以及测试集中27-class1
实例和3-class0
实例。显然,这并不平衡。你训练的分类器将高度偏向,并且和一个简单地将每个输入都预测为class1
的虚拟分类器一样有效。
更好的方法是,尝试收集更多类别0的数据,或者通过过采样数据集来人为生成更多的类别0实例,或者通过欠采样来减少类别1的实例。python imblearn是Python中的一个库,可以帮助你实现这一点。