我需要在集群上运行我的模型，该集群有7天的时限，如果计算成本超过7天，任务将在集群上被终止。因此，训练将无法完成以获得用于预测的保存模型。

我正在训练一些分类器模型（如SVC、KNeighborsClassifier等），这些模型来自scikit-learn，我想知道是否有任何函数或库可以在特定时间段内对模型进行快照，然后从停止的点继续训练（类似于深度学习中所应用的）？

谢谢

回答：

一般来说，在scikit-learn中进行训练时无法进行快照。该库仅提供有限的持久化功能。可以增量训练某些模型，但并非所有模型都支持。对于可以增量训练的模型，您需要编写不同数量的样板代码。

在增量学习下列出的模型具有warm_start属性和/或.partial_fit()方法来实现此目的。您可以在数据批次的循环中调用partial_fit。此外，您需要编写代码来存储和检索训练进度和部分训练的模型（有关模型持久化的更多信息，请参见这个问题）。

某些模型（特别是集成模型，如随机森林）原则上可以合并。因此，您不是增量训练一个模型，而是在循环中训练多个独立的模型实例，然后合并它们。然而，据我所知，scikit-learn API不支持这种合并。因此，虽然可以这样做，但需要对模型的数学和实现有深入了解，并进行私有属性的修改。