增量拟合 sklearn RandomForestClassifier

我在一个每次迭代都会生成数据的环境中工作。我希望保留前一次迭代的模型,并将新数据添加到现有模型中。
我想了解模型拟合是如何工作的。它是将新数据拟合到现有模型中,还是会用新数据创建一个新模型。

使用新数据调用fit:

clf = RandomForestClassifier(n_estimators=100)for i in customRange:    get_data()    clf.fit(new_train_data) #直接拟合新训练数据    clf.predict(new_test_data)

或者保存历史训练数据并在所有历史数据上调用fit是唯一的解决方案

clf = RandomForestClassifier(n_estimators=100)global_train_data = new dict()for i in customRange:    get_data()    global_train_data.append(new_train_data)  #追加新训练数据     clf.fit(global_train_data) #在全局训练数据上拟合    clf.predict(new_test_data)

我的目标是高效地训练模型,所以我不想浪费CPU时间重新学习模型。

我想确认正确的做法,并且还想知道这种做法是否在所有分类器中都一致


回答:

你的第二种方法是“正确”的,因为正如你已经猜到的那样,每次追加数据时,它都会从头开始拟合一个新的分类器;但可以说,这并不是你想要的。

你真正想要的是warm_start参数;根据文档

warm_start : bool, optional (default=False)

当设置为True时,重复使用之前调用fit的解决方案,并向集合中添加更多的估计器;否则,只拟合一个全新的森林。请参阅术语表

所以,你应该使用你的第一种方法,并进行以下修改:

clf = RandomForestClassifier(n_estimators=100, warm_start=True)

这在不同分类器中并不一定一致(有些分类器带有partial_fit方法) – 例如,参见是否可以增量训练sklearn模型(例如SVM)?关于SGDClasssifier;你应该始终检查相关文档。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注