我已经设置了Caffe,并使用了FCN-8s模型,稍作修改以输出类别:
layer { name: "score_5classes" type: "Convolution" bottom: "score" top: "score_5classes" convolution_param { num_output: 2 pad: 0 kernel_size: 1 }}layer { name: "loss" type: "SoftmaxWithLoss" bottom: "score_5classes" bottom: "label" top: "loss" loss_param { normalize: true }}
我将最后一层的输出数量改成了2,因为我想将我的输入图像分类为2个类别,0和1(所以看起来我应该有2个输出!我不明白为什么?!它可以是一个由零和一组成的输出矩阵,对吗?)
所以我的问题是:
1.我应该将这两个类别相加吗?因为我需要一个输出
2.损失值非常小!即使输出与期望值相差甚远!Caffe是如何计算损失层的?
谢谢
回答:
在进行二元分类时,使用带有两个输出的"SoftmaxWithLoss"
在数学上等同于使用"SigmoidCrossEntropyLoss"
。因此,如果你确实只需要一个输出,你可以将最后一层设置为num_output: 1
并使用"SigmoidCrossEntropyLoss"
。然而,如果你想利用Caffe的"Accuracy"
层,你需要使用两个输出和"SoftmaxWithLoss"
层。
关于你的问题:
1. 如果你选择使用"SoftmaxWithLoss"
并且只需要一个输出,请取每个像素的第二个输出,因为这个条目代表类别1的概率。
我把计算总和的结果留给你作为练习(提示:`”Softmax”输出概率…)
2. 损失值非常小很可能是由于你有严重的类别不平衡——大多数像素是0,而只有很少的像素是1(反之亦然),因此总是预测0不会产生很大的惩罚。如果这是你的情况,我建议你查看Focal Loss,它解决了这个问题。