选择损失函数需要帮助

我使用resnet50解决了一个多类分类问题。模型输出了每个类别的概率。我应该为我的模型选择哪个损失函数?

选择二元交叉熵后的结果:enter image description here

选择分类交叉熵后的结果:enter image description here

上述结果是使用相同模型但不同损失函数的结果。这个模型应该将图像分类为26个类别,所以分类交叉熵应该有效。另外,在第一种情况下准确率约为96%,但损失值却很高。这是为什么?

编辑2:模型架构:enter image description here

enter image description here

enter image description here

enter image description here


回答:

对于多类分类问题,您绝对需要使用 categorical_crossentropybinary_crossentropy 会将您的问题简化为二元分类问题,这在没有进一步研究的情况下是不清楚的。

我认为您在第一种(以及某种程度上在第二种)情况下看到高准确率的原因是过拟合。您添加的第一个全连接层包含800万个参数(!!!要查看这一点,可以执行 model.summary()),而您只有7万张图像来训练它,并且只使用了8个epoch。这种架构选择在计算能力和数据需求上都非常苛刻。您还在使用一个非常基础的优化器(SGD)。尝试使用更强大的 Adam

最后,我对您在输出层选择 'sigmoid' 激活函数感到有点惊讶。为什么不选择更经典的 'softmax'

Related Posts

使用之前训练的模型预测未见数据

我正在使用Scikit-learn进行监督机器学习。我…

如何在GridSearchCV中使用Matthews系数进行评分?

我正在使用GridSearchCV来调整我的机器学习结…

无法使用TensorFlow对象检测API加载预训练模型检查点

与这个问题类似: 在faster_rcnn_resne…

如何选择PCA中的n_components值

已关闭。 此问题不符合 Stack Overflow …

将一个模型的输出与另一个模型结合

我目前正在开发一个模型,根据产品描述预测其类别。模型的…

使用f2分数评估多个分类器

我正在尝试对一些模型进行二元分类。我希望根据分数和f2…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注