我想使用tensorflow-probability来训练一个简单的全连接贝叶斯神经网络。损失函数由KL散度项和负对数似然项组成。如何使用tfp单独查看它们的演变过程？
我有以下代码：
损失函数是显式的negloglik项和每个DenseFlipout层中的KL散度项的总和（我可以通过查看model.losses来确认这些项的存在）。
如何单独可视化这些项？
尝试方法：
如果我尝试将计算negloglik的函数添加到指标中，例如
def negloglik_met(y_true, y_pred): return -y_pred.log_prob(y_true)我会得到AttributeError: 'Tensor' object has no attribute 'log_prob'的错误，这让我感到困惑。y_pred应该是DistributionLambda层的输出，为什么它是一个Tensor而不是一个Distribution呢？
我还希望通过将model.losses[0]添加到指标中来解决这个问题，但得到的错误是ValueError: Could not interpret metric function identifier: Tensor("dense_flipout/divergence_kernel:0", shape=(), dtype=float32)。
回答：
我深入研究了TensorFlow的代码。这是因为TensorFlow会自动为你的（lambda）函数创建一个自动包装器。它会将模型输出（分布）转换和重塑为指标的类型（这对我来说似乎很奇怪）。因此，为了防止这种情况，你应该创建自己的包装器，不执行这种转换。执行此操作的代码位于：https://github.com/tensorflow/tensorflow/blob/master/tensorflow/python/keras/metrics.py#L583
所以，请以那段代码为灵感，创建你自己的指标包装器。这应该是TFP的一个功能。
