我在使用Keras进行二分类问题时,采用ImageDataGenerator.flow_from_directory
方法来生成批次。然而,我的类别分布非常不平衡,一个类别的样本数量是另一个的8到9倍,这导致模型总是预测同一个输出类别。我想知道是否可以设置flow_from_directory
,在每个epoch中对小类别进行过采样或对大类别进行欠采样?目前,我只是通过复制小类别中的每个图像来解决这个问题,但我希望有更多的灵活性。
回答:
在当前版本的Keras中,仅使用Keras内置方法无法平衡你的数据集。flow_from_directory
只是简单地列出所有文件及其类别,根据需要进行洗牌,然后迭代这些文件。
但你可以尝试另一种方法——编写自己的生成器,在python
中实现平衡功能:
def balanced_flow_from_directory(flow_from_directory, options): for x, y in flow_from_directory: yield custom_balance(x, y, options)
这里的custom_balance
应该是一个函数,它接收一个批次(x, y)
,然后进行平衡处理并返回一个平衡后的批次(x', y')
。对于大多数应用来说,批次的大小不需要相同——但也有一些特殊情况(例如有状态的RNN),批次大小需要固定。