是否有可能在训练集中添加一个新的数据点,使得SVM的损失保持不变,而Softmax分类器的损失却发生变化?
回答:
在SVM中,如果新数据点的得分超出了正确类别得分的边缘范围,损失就不会发生变化;但在Softmax损失中,如果新添加的数据点的得分接近正无穷,它将对损失产生不利影响,Softmax的损失肯定会发生变化。
是否有可能在训练集中添加一个新的数据点,使得SVM的损失保持不变,而Softmax分类器的损失却发生变化?
回答:
在SVM中,如果新数据点的得分超出了正确类别得分的边缘范围,损失就不会发生变化;但在Softmax损失中,如果新添加的数据点的得分接近正无穷,它将对损失产生不利影响,Softmax的损失肯定会发生变化。