交叉熵和对数损失误差之间的区别是什么?它们的公式看起来非常相似。
回答:
它们本质上是相同的;通常,我们在二分类问题中使用对数损失这一术语,而在多类分类的一般情况下使用更通用的交叉熵(损失),但即使是这种区分也不是始终一致的,你经常会发现这些术语被互换使用作为同义词。
来自维基百科关于交叉熵的条目:
逻辑损失有时被称为交叉熵损失。它也被称为对数损失
来自fast.ai关于对数损失的wiki条目 [链接现已失效]:
对数损失和交叉熵在不同的上下文中略有不同,但在机器学习中,当计算介于0和1之间的误差率时,它们归结为相同的东西。
来自机器学习速查表:
交叉熵损失,或对数损失,衡量分类模型的性能,其输出是介于0和1之间的概率值。