我在一个每次迭代都会生成数据的环境中工作。我希望保留前一次迭代的模型,并将新数据添加到现有模型中。
我想了解模型拟合是如何工作的。它是将新数据拟合到现有模型中,还是会用新数据创建一个新模型。
使用新数据调用fit:
clf = RandomForestClassifier(n_estimators=100)for i in customRange: get_data() clf.fit(new_train_data) #直接拟合新训练数据 clf.predict(new_test_data)
或者保存历史训练数据并在所有历史数据上调用fit是唯一的解决方案
clf = RandomForestClassifier(n_estimators=100)global_train_data = new dict()for i in customRange: get_data() global_train_data.append(new_train_data) #追加新训练数据 clf.fit(global_train_data) #在全局训练数据上拟合 clf.predict(new_test_data)
我的目标是高效地训练模型,所以我不想浪费CPU时间重新学习模型。
我想确认正确的做法,并且还想知道这种做法是否在所有分类器中都一致
回答:
你的第二种方法是“正确”的,因为正如你已经猜到的那样,每次追加数据时,它都会从头开始拟合一个新的分类器;但可以说,这并不是你想要的。
你真正想要的是warm_start
参数;根据文档:
warm_start : bool, optional (default=False)
当设置为
True
时,重复使用之前调用fit的解决方案,并向集合中添加更多的估计器;否则,只拟合一个全新的森林。请参阅术语表。
所以,你应该使用你的第一种方法,并进行以下修改:
clf = RandomForestClassifier(n_estimators=100, warm_start=True)
这在不同分类器中并不一定一致(有些分类器带有partial_fit
方法) – 例如,参见是否可以增量训练sklearn模型(例如SVM)?关于SGDClasssifier
;你应该始终检查相关文档。