如果我的GAN判别器损失降为0,这是否不好?

我在训练我的Pix2Pix GAN时,判别器损失在第20个epoch左右开始降为0。从第30个epoch开始,它一直保持在0。

然而,生成器损失一直在下降。最初的几个epoch,生成器损失在50到60之间。到了第100个epoch,生成器损失大约是4到5。从第150个到第350个epoch,生成器损失在1到3之间波动。

那么,判别器损失降为0是否不好?如何解决这个问题?


回答:

基本上,您不希望判别器损失降为零,因为这意味着判别器做得太好了(更重要的是,生成器做得太差了),即它可以轻松地区分假数据和真实数据(即生成器的创作与真实数据不够接近)。

总的来说,重要的是要这样定义判别器的损失,因为我们确实希望判别器尝试减少这种损失,但整个GAN系统的最终目标是使损失平衡。因此,如果一个损失降为零,那就是失败模式(不再有学习发生)。

为了避免这种情况,您必须确保您的最后一个判别器层不是Sigmoid层,并且您的损失不受[0, 1]的限制。您可以尝试使用BCE层或类似的层。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注