变分自编码器中从解码器输入到编码器输出的反向传播

我正在通过自己实现变分自编码器（VAE）来深入理解它，但在将解码器输入层的损失反向传播到编码器输出层时遇到了困难。

VAE

我的编码器网络输出8对(sigma, mu)，然后我将这些与随机采样器的结果结合起来，生成解码器网络的8个输入值(z)：

decoder_in = sigma * N(0,I) + mu

然后我对解码器网络进行前向传播，计算均方误差重构损失，并将权重和损失反向传播到解码器输入层。

在这里我完全卡住了，因为没有关于如何将损失从解码器输入层反向传播到编码器输出层的清晰解释。

我最好的想法是存储从N(0,I)采样的结果到(epsilon)，并以这种方式使用它们：

L(sigma) = epsilon * dLz(decoder_in)L(mu) = 1.0 * dLz(decoder_in)

这种方法在某种程度上有效，但在长期运行中，编码分布向量的sigma分量倾向于回归到零，因此我的VAE最终也退化为AE。

此外，我仍然不知道如何在这个方案中整合KL损失。我应该将它添加到编码器损失中，还是以某种方式与解码器的MSE损失结合？

回答：

VAE并不使用重构误差作为成本目标，如果你使用重构误差，模型就会变回一个自编码器。VAE使用变分下界和一些巧妙的技巧，使其易于计算。

参考原始的“自动编码变分贝叶斯”论文

变分下界目标是（方程10）：

1/2( d+log(sigmaTsigma) -(muTmu) – (sigmaTsigma)) + log p(x/z)

其中d是潜在变量的数量，mu和sigma是编码神经网络的输出，用于缩放标准正态样本，z是编码样本。p(x/z)只是解码器生成输入x的概率。

上述方程中的所有变量都是完全可微的，因此可以使用梯度下降或TensorFlow中找到的任何其他基于梯度的优化器进行优化

学技术