由于我在这个领域还是初学者,我对不同epsilon值如何影响使用epsilon贪婪算法进行动作选择的SARSA和Q-learning有些疑问。
我理解当epsilon等于0时,动作总是基于从Q值派生的策略来选择。因此,Q-learning首先更新Q值,然后基于更新后的Q值选择下一个动作。另一方面,SARSA先选择下一个动作,然后再更新Q值。
当ε等于1时会怎样?当ε从0增加到1时又会怎样?
谢谢!
回答:
ε-贪婪策略以概率ε选择随机动作,或以概率1-ε选择已知的最佳动作。当ε=1时,它总是会选择随机动作。这个值在探索和利用之间做出了权衡:你希望利用你已有的知识,但也希望寻找更好的替代方案。