我有一个多标签问题,正在尝试在TensorFlow中实现排名损失作为自定义损失。(https://arxiv.org/pdf/1312.4894.pdf)
我制作了一个简单的CNN,并在最后添加了一个Sigmoid层来激活,以便每个类别都有独立的分布。
数学公式将标签分为两组,正类和负类。
我的问题是,正确的实现方法是什么?
def ranking_loss(y_true, y_pred): pos = tf.where(tf.equal(y_true, 1), y_pred, tf.zeros_like(y_pred)) neg = tf.where(tf.equal(y_true, 0), y_pred, tf.zeros_like(y_pred)) loss = tf.maximum(1.0 - tf.math.reduce_sum(pos) + tf.math.reduce_sum(neg), 0.0) return tf.math.reduce_sum(loss)
结果是,对于每个样本,正类和负类的激活分数是独立求和的。
tr = [1, 0, 0, 1]pr = [0, 0.6, 0.55, 0.9]t = tf.constant([tr])p = tf.constant([pr])print(ranking_loss(t, p))tf.Tensor([[0. 0. 0. 0.9]], shape=(1, 4), dtype=float32) #Postf.Tensor([[0. 0.6 0.55 0. ]], shape=(1, 4), dtype=float32) #Negtf.Tensor(1.2500001, shape=(), dtype=float32) #loss
CNN的精确度、召回率和F1得分表现非常差。
改用标准的二元交叉熵损失后,性能表现良好,这让我认为我的实现可能有问题。
回答:
我认为根据公式,求和的展开方式是错误的,并且tf.math.reduce_sum(pos)
和tf.math.reduce_sum(neg)
不能直接放入tf.maximum
中。我认为,你的示例的公式应展开为:
max(0, 1-0+0.6) + max(0, 1-0+0.55) + max(0, 1-0.9+0.6) + max(0, 1-0.9+0.55) = 4.5
你在评论部分提供的第二个实现看起来对我来说是合理的,并且得到了我预期的结果。然而,让我提供一个替代方案:
def ranking_loss(y_true, y_pred): y_true_ = tf.cast(y_true, tf.float32) partial_losses = tf.maximum(0.0, 1 - y_pred[:, None, :] + y_pred[:, :, None]) loss = partial_losses * y_true_[:, None, :] * (1 - y_true_[:, :, None]) return tf.reduce_sum(loss)
这个实现可能会更快。