我在尝试实现Q学习算法,但没有足够的时间通过ε-贪婪策略来选择行动。为了简化,我随机选择行动,没有任何充分的理由。这样做可以吗?
回答:
是的,随机选择行动可以让Q-learning
学习到最优策略。ε-贪婪探索的目标是确保所有状态-行动对被(渐进地)无限次访问,这是收敛的要求[Sutton & Barto, 第6.5节]。显然,随机选择行动的过程也符合这一要求。
主要的缺点是你的智能体在整个学习阶段的表现会很差。此外,可能收敛速度也会受到影响,但我想这最后一点非常依赖于具体应用。
我在尝试实现Q学习算法,但没有足够的时间通过ε-贪婪策略来选择行动。为了简化,我随机选择行动,没有任何充分的理由。这样做可以吗?
回答:
是的,随机选择行动可以让Q-learning
学习到最优策略。ε-贪婪探索的目标是确保所有状态-行动对被(渐进地)无限次访问,这是收敛的要求[Sutton & Barto, 第6.5节]。显然,随机选择行动的过程也符合这一要求。
主要的缺点是你的智能体在整个学习阶段的表现会很差。此外,可能收敛速度也会受到影响,但我想这最后一点非常依赖于具体应用。