背景:
我正在实现高斯伯努利限制玻尔兹曼机,它与常见的限制玻尔兹曼机类似,但具有实值可见单元。
确实,采样隐藏值 p(h=1|v)
的过程是相同的,即
问题:
我的问题在于如何用Python编写 p(v|h)
,即
我对 N() 的工作原理有点困惑。我是否应该简单地使用数据的标准差向 b + sigma * W.dot(h)
添加高斯噪声?
提前感谢您。
回答:
符号 X ~ N(μ, σ²) 表示 X 服从均值为 μ 和方差为 σ² 的正态分布,因此在限制玻尔兹曼机的训练过程中,v 应该从这样的分布中采样。在NumPy中,这表示为
v = sigma * np.random.randn(v_size) + b + sigma * W.dot(h)
或者使用 scipy.stats.norm
来编写更易读的代码。