我即将基于强化学习编写一个国际象棋引擎。我希望训练一个评估函数,并找出棋盘上最重要特征的权重。
我不是机器学习的专家,我正试图从书籍和教程中学习。在每个教程中,奖励都相当简单,通常是1、0,或者可能是-1,但在国际象棋中(无论是将死局面)没有如此明显的奖励。例如,假设我在棋盘上有一个局面。我做了10个(随机)移动,在那个点上我应该计算奖励,即起始位置和当前位置之间的差异(或误差)。当我的唯一评估函数还在训练中时,如何做到这一点呢?
我想避免使用其他引擎的评分系统,因为我觉得那更像是监督学习,这不是我的目标。
回答:
你不能直接做到这一点。
我可以建议几种方法:
- 使用外部来源的评分至少可以启动你的算法。评估给定位置的算法相当有限,仅凭这一点你的AI不会达到大师级别。
- 探索使用另一个国际象棋AI(理想情况下是开源的)来评估位置的可能性。假设你有一个“教师”AI。你启动它的两个实例,并从你想要评估的位置开始游戏。从那里让它们相互对抗直到游戏结束。这个移动成功了吗?根据结果奖励你自己的AI。
- 为了增加一些变异性(你不想只比一个AI更好),对其他AI做同样的事情。或者甚至,让你自己的AI与自己对抗。然而,要让后者起作用,它可能需要已经能够体面地玩国际象棋,而不是完全随机地玩。你可以多次重放相同的移动并完成游戏,允许你的AI随机探索新的移动和策略(例如:尝试在后期尝试第二好的移动)。
- 使用真实玩家之间的游戏数据集来喂养你的机器学习。由此可以“强化”赢家和输家的每个移动。
- 让你的AI通过与真实玩家对抗来学习。强化你AI的移动(输赢的移动)和玩家的移动。