我一直在尝试解决OpenAI的MountainCarContinuous-v0
环境,但一直没有进展。
独自尝试了几周后,我现在只是想理解别人的代码。这是那个人用来解决环境的链接。具体来说,我需要帮助理解损失函数。
在GitHub上的代码中,损失函数是这样写的:
self.norm_dist = tf.contrib.distributions.Normal(self.mu, self.sigma)self.loss = -tf.log(self.norm_dist.prob(self.action_train) + 1e-5) * self.advantage_train - self.lamb * self.norm_dist.entropy()
这个损失函数在做什么?如果你能用简单的语言描述一下,将对我非常有帮助。
回答:
第一步,定义了一个正态分布
,使用均值
和方差
。接下来,定义了损失函数,大致为-A*log(p(a)) + \lambda * 熵
,其中A是优势,p(a)是从正态分布中抽样的动作的概率,最后在损失函数中加入了分布的熵。