我目前使用的是交叉熵损失函数,但由于数据集不平衡,性能表现不佳。
有没有更好的损失函数?
回答:
这是一个非常广泛的主题,但在我看来,你应该尝试焦点损失:它是由Tsung-Yi Lin、Priya Goyal、Ross Girshick、Kaiming He 和 Piotr Dollar引入的,用于处理目标检测中的不平衡预测。自引入以来,它也被用于分割的背景下。
焦点损失的理念是减少正确(或几乎正确)预测的损失和梯度,同时强调错误的梯度。
蓝色曲线是常规的交叉熵损失:一方面,对于分类良好的示例,它仍然有不可忽视的损失和梯度;另一方面,对于错误分类的示例,它的梯度较弱。
相比之下,焦点损失(所有其他曲线)对于分类良好的示例有较小的损失和较弱的梯度,而对于错误分类的示例则有更强的梯度。