正确实现排名损失

我有一个多标签问题,正在尝试在TensorFlow中实现排名损失作为自定义损失。(https://arxiv.org/pdf/1312.4894.pdf)

我制作了一个简单的CNN,并在最后添加了一个Sigmoid层来激活,以便每个类别都有独立的分布。
数学公式将标签分为两组,正类和负类。

rankloss

我的问题是,正确的实现方法是什么?

def ranking_loss(y_true, y_pred):        pos = tf.where(tf.equal(y_true, 1), y_pred, tf.zeros_like(y_pred))    neg = tf.where(tf.equal(y_true, 0), y_pred, tf.zeros_like(y_pred))    loss = tf.maximum(1.0 - tf.math.reduce_sum(pos) + tf.math.reduce_sum(neg), 0.0)    return tf.math.reduce_sum(loss)

结果是,对于每个样本,正类和负类的激活分数是独立求和的。

tr = [1, 0, 0, 1]pr = [0, 0.6, 0.55, 0.9]t =  tf.constant([tr])p =  tf.constant([pr])print(ranking_loss(t, p))tf.Tensor([[0.  0.  0.  0.9]], shape=(1, 4), dtype=float32) #Postf.Tensor([[0.   0.6  0.55 0.  ]], shape=(1, 4), dtype=float32) #Negtf.Tensor(1.2500001, shape=(), dtype=float32) #loss

CNN的精确度、召回率和F1得分表现非常差。
改用标准的二元交叉熵损失后,性能表现良好,这让我认为我的实现可能有问题。


回答:

我认为根据公式,求和的展开方式是错误的,并且tf.math.reduce_sum(pos)tf.math.reduce_sum(neg)不能直接放入tf.maximum中。我认为,你的示例的公式应展开为:

max(0, 1-0+0.6) + max(0, 1-0+0.55) + max(0, 1-0.9+0.6) + max(0, 1-0.9+0.55) = 4.5

你在评论部分提供的第二个实现看起来对我来说是合理的,并且得到了我预期的结果。然而,让我提供一个替代方案:

def ranking_loss(y_true, y_pred):    y_true_ = tf.cast(y_true, tf.float32)    partial_losses = tf.maximum(0.0, 1 - y_pred[:, None, :] + y_pred[:, :, None])    loss = partial_losses * y_true_[:, None, :] * (1 - y_true_[:, :, None])    return tf.reduce_sum(loss)

这个实现可能会更快。

Related Posts

在使用k近邻算法时,有没有办法获取被使用的“邻居”?

我想找到一种方法来确定在我的knn算法中实际使用了哪些…

Theano在Google Colab上无法启用GPU支持

我在尝试使用Theano库训练一个模型。由于我的电脑内…

准确性评分似乎有误

这里是代码: from sklearn.metrics…

Keras Functional API: “错误检查输入时:期望input_1具有4个维度,但得到形状为(X, Y)的数组”

我在尝试使用Keras的fit_generator来训…

如何使用sklearn.datasets.make_classification在指定范围内生成合成数据?

我想为分类问题创建合成数据。我使用了sklearn.d…

如何处理预测时不在训练集中的标签

已关闭。 此问题与编程或软件开发无关。目前不接受回答。…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注