我正在尝试实现一个主动学习机器(一个项目的实验)算法,我希望分别进行训练,请查看我下面的代码。
clf = BernoulliNB()clf.fit(X_train[0:40], y_train[0:40])clf.fit(X_train[40:], y_train[40:])
通常以上操作会这样做
clf = BernoulliNB()clf.fit(X_train, y_train)
这两种方法的准确率得分不同。我希望将训练数据添加到现有模型中,因为重新计算成本高昂——我不希望我的模型再次进行计算。
有什么方法可以做到吗?
回答:
这被称为在线训练或增量学习,适用于大数据。请查看这个页面了解策略。
在scikit-learn中,你需要使用partial_fit()
,并且提前知道y
中的所有标签。
partial_fit(X, y, classes=None, sample_weight=None)
classes : array-like, shape = [n_classes] (default=None)
可能出现在y向量中的所有类的列表。必须在第一次调用partial_fit时提供,在后续调用中可以省略。
如果你只是这样做:
clf.partial_fit(X_train[0:40], y_train[0:40])clf.partial_fit(X_train[40:], y_train[40:])
那么如果在前40个样本中不存在的类在后续的partial_fit()调用中出现,就可能会抛出错误。
所以理想情况下你应该这样做:
# 第一次调用clf.partial_fit(X_train[0:40], y_train[0:40], classes = np.unique(y_train))# 后续调用clf.partial_fit(X_train[40:80], y_train[40:80])clf.partial_fit(X_train[80:], y_train[80:])依此类推..