我最近在研究受限玻尔兹曼机（RBM）。

我已经阅读了G. Hinton的论文：https://www.cs.toronto.edu/~hinton/absps/guideTR.pdf

在RBM中训练图像的目的是“提高”网络数据的概率，但我无法解释为什么这样做是有意义的：我们如何通过给定的图像来训练网络以提高其在网络中的概率？

有人能解释一下吗？谢谢。

回答：

可以把RBM想象成一个能够生成事物的黑盒子。我们聚焦于图像领域——它现在是一个能够生成任何类型图像的黑盒子——显然，大多数图像并不代表任何东西，它们只是纯粹的噪声。在训练过程中，你调整RBM的内部参数（这些参数定义了它如何生成事物），使得一组给定的训练图像有较高的生成概率。换句话说——你调整RBM的参数，使其开始生成你选择的图像。实际操作中如何实现呢？通过优化程序。RBM被定义为一组权重（因此是一定数量的浮点数，它们以特定方式相互作用），因此你可以提出一个优化问题

maximize_theta PRODUCT_x P(x | theta)

针对你的训练样本x，其中theta是你的RBM权重集。解决优化问题的方法有很多，有些使用梯度方法，有些使用其他更专业的技术。它们都有一个共同的目标——以某种方式改变初始的theta（通常是随机的），使其“更接近你期望的方式”。因此，基于梯度的方法会尝试分析性地计算应该改变哪些权重，以使你的优化标准（这里是概率）稍微提高一些。这并不“解决”问题——它通常只是逐步接近实际的解决方案。