我有一个航班延误的数据集,尝试在采样前将数据集分割为训练集和测试集。准时到达的案例约占总数据的80%,延误的案例约占20%。
在机器学习中,通常训练集和测试集的比例是8:2。但是数据过于不平衡。因此,在极端情况下,大多数训练数据是准时到达的案例,而大多数测试数据是延误的案例,准确率会很差。
所以我的问题是,如何正确地将不平衡数据集分割为训练集和测试集?
回答:
仅仅通过调整训练集和测试集的比例,可能无法得到正确的预测和结果。
如果你处理的是不平衡数据集,你应该尝试使用重新采样的技术来获得更好的结果。在不平衡数据集的情况下,分类器总是“预测”最常见的类别,而不进行任何特征分析。
此外,对于不平衡数据集的性能测量,应使用不同的指标,如F1分数等。
请参考下面的链接,会给你更多的清晰度。