在研究AI时,我只看到一个训练周期,然后模型学习并变得完美。但如果数据没有真正的模式,比如金融价格或玩游戏的例子呢?那么你的算法将无法学习,你将一无所获。
我对openAI进行了一些研究,了解他们如何教AI算法玩Dota 2。其中一位程序员说,在周末,他通过给予奖励教算法如何阻挡小兵。他们是否使用现有模型,添加了一些当角色站在小兵前面的奖励,然后让它运行,突然间就学会了一项新技能?
关于这是如何完成的没有任何信息!这更像是一个渐进式的学习系统,而不是一次训练就完成。请解释这个过程,并说明我如何训练一个金融算法的“功能”。
回答:
在线学习与离线学习
退一步来看,了解在线学习和离线学习之间的区别,有助于理解机器学习的整体情况。人工智能只是基于神经网络的机器学习的一个子集的花哨名称。你所说的“一个训练周期”被称为离线学习,而你正在寻找的是在线学习。
在计算机科学中,在线机器学习是一种机器学习方法,其中数据按顺序可用,并用于在每一步更新未来数据的最佳预测器,与一次性在整个训练数据集上学习生成最佳预测器的批量学习技术相反。[https://en.wikipedia.org/wiki/Online_machine_learning]
关键是要用新数据逐步教你的模型,而不让它忘记之前的知识。一个著名的玩具问题是参数变化的非平稳多臂老虎机,这是向学生介绍强化学习概念的常见方式。
强化学习
你可以在这个问题中使用一个代理-环境模型,其中你的模型扮演代理的角色,根据环境的当前状态(股票价格)从一组动作(买/卖)中选择,同时最大化奖励函数(投资组合的价值)。最先进的RL算法也使用深度学习,因此它们被归类为人工智能,如openAI的Dota机器人。
了解更多,请查看深度强化学习。