我目前正在使用keras训练一个WGAN，其（近似）Wasserstein损失如下：

def wasserstein_loss(y_true, y_pred):    return K.mean(y_true * y_pred)

然而，这个损失显然可以是负值，这让我觉得很奇怪。

我训练了200个epoch的WGAN，并得到了下面的评论者Wasserstein损失训练曲线。

上述损失是通过以下方式计算的

d_loss_valid = critic.train_on_batch(real, np.ones((batch_size, 1)))d_loss_fake = critic.train_on_batch(fake, -np.ones((batch_size, 1)))d_loss, _ = 0.5*np.add(d_loss_valid, d_loss_fake)

生成样本的质量很好，所以我认为我正确地训练了WGAN。然而，我仍然无法理解为什么Wasserstein损失可以是负值，并且模型仍然有效。根据原始的WGAN论文，Wasserstein损失可以用作GAN的性能指标，那么我们应该如何解释它？我是否误解了什么？

回答：

Wasserstein损失是地球移动距离的测量，这是两个概率分布之间的差异。在tensorflow中，它的实现是d_loss = tf.reduce_mean(d_fake) - tf.reduce_mean(d_real)，如果d_fake移动到d_real分布的另一侧太远，显然会得到一个负数。你可以在你的图表上看到，在训练过程中，你的真实和假分布会交换位置，直到它们在零附近收敛。因此，作为性能测量，你可以用它来查看生成器与真实数据的距离以及它现在在哪一侧。

查看分布图：

P.S. 这是交叉熵损失，不是Wasserstein。或许这篇文章能帮助你更多，如果你还没有读过的话。然而，另一个问题是优化器如何最小化负损失（到零）。