正确实现排名损失

我有一个多标签问题,正在尝试在TensorFlow中实现排名损失作为自定义损失。(https://arxiv.org/pdf/1312.4894.pdf)

我制作了一个简单的CNN,并在最后添加了一个Sigmoid层来激活,以便每个类别都有独立的分布。
数学公式将标签分为两组,正类和负类。

rankloss

我的问题是,正确的实现方法是什么?

def ranking_loss(y_true, y_pred):        pos = tf.where(tf.equal(y_true, 1), y_pred, tf.zeros_like(y_pred))    neg = tf.where(tf.equal(y_true, 0), y_pred, tf.zeros_like(y_pred))    loss = tf.maximum(1.0 - tf.math.reduce_sum(pos) + tf.math.reduce_sum(neg), 0.0)    return tf.math.reduce_sum(loss)

结果是,对于每个样本,正类和负类的激活分数是独立求和的。

tr = [1, 0, 0, 1]pr = [0, 0.6, 0.55, 0.9]t =  tf.constant([tr])p =  tf.constant([pr])print(ranking_loss(t, p))tf.Tensor([[0.  0.  0.  0.9]], shape=(1, 4), dtype=float32) #Postf.Tensor([[0.   0.6  0.55 0.  ]], shape=(1, 4), dtype=float32) #Negtf.Tensor(1.2500001, shape=(), dtype=float32) #loss

CNN的精确度、召回率和F1得分表现非常差。
改用标准的二元交叉熵损失后,性能表现良好,这让我认为我的实现可能有问题。


回答:

我认为根据公式,求和的展开方式是错误的,并且tf.math.reduce_sum(pos)tf.math.reduce_sum(neg)不能直接放入tf.maximum中。我认为,你的示例的公式应展开为:

max(0, 1-0+0.6) + max(0, 1-0+0.55) + max(0, 1-0.9+0.6) + max(0, 1-0.9+0.55) = 4.5

你在评论部分提供的第二个实现看起来对我来说是合理的,并且得到了我预期的结果。然而,让我提供一个替代方案:

def ranking_loss(y_true, y_pred):    y_true_ = tf.cast(y_true, tf.float32)    partial_losses = tf.maximum(0.0, 1 - y_pred[:, None, :] + y_pred[:, :, None])    loss = partial_losses * y_true_[:, None, :] * (1 - y_true_[:, :, None])    return tf.reduce_sum(loss)

这个实现可能会更快。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注