目前,我正在构建一个机器学习模型,根据某些条件使用分类器做出决策。顺便提一下,我收集的数据非常异常:假设我的数据分为A类和B类,A类记录与B类记录的比例大约为1:300。
有什么方法可以处理这个模型吗?我尝试了许多不同的方法,但结果都是过拟合。
回答:
你描述为太异常的问题,在机器学习、数据挖掘、统计学等社区中被称为不平衡数据集。这是指类别分布不均的情况。
这种情况并不罕见。实际上,在许多分类问题中,感兴趣的事件发生频率不高,这也是为什么它引人关注的原因。因此,与其他标签相比,表示该事件发生的标签非常罕见。
处理不平衡数据集有许多不同的方法,在大多数情况下,尝试使其平衡。欠采样和过采样是典型的方法。通常,这两种方法的组合可以带来更好的结果。
谷歌的第一个建议给我的是: