我在训练我的Pix2Pix GAN时,判别器损失在第20个epoch左右开始降为0。从第30个epoch开始,它一直保持在0。
然而,生成器损失一直在下降。最初的几个epoch,生成器损失在50到60之间。到了第100个epoch,生成器损失大约是4到5。从第150个到第350个epoch,生成器损失在1到3之间波动。
那么,判别器损失降为0是否不好?如何解决这个问题?
回答:
基本上,您不希望判别器损失降为零,因为这意味着判别器做得太好了(更重要的是,生成器做得太差了),即它可以轻松地区分假数据和真实数据(即生成器的创作与真实数据不够接近)。
总的来说,重要的是要这样定义判别器的损失,因为我们确实希望判别器尝试减少这种损失,但整个GAN系统的最终目标是使损失平衡。因此,如果一个损失降为零,那就是失败模式(不再有学习发生)。
为了避免这种情况,您必须确保您的最后一个判别器层不是Sigmoid层,并且您的损失不受[0, 1]的限制。您可以尝试使用BCE
层或类似的层。