我正在尝试理解如何实现partial_fit。我已经使用make_regression创建了一个虚拟数据集。接着,我使用partial_fit方法对X和y进行部分拟合。请问我应该在哪里指定批量大小和轮次数?
例如,如果我想使用2000条记录的批量大小和10个轮次,以增量方式在整个数据集上训练模型,该怎么做?
from sklearn.datasets import make_regressionfrom sklearn.linear_model import SGDRegressorX,y=make_regression(n_samples=20000, n_features=5, random_state=0, noise=4.0,bias=100.0)reg=SGDRegressor(max_iter=1000)reg.partial_fit(X,y)print(reg.score(X,y))
回答:
您只需将 minibatch 的特征和标签传递给 partial_fit,就像使用 fit 一样:
reg.partial_fit(X_minibatch, y_minibatch)
下面是一段代码,展示如何操作:
from sklearn.linear_model import SGDRegressor def iter_minibatches(chunksize): # 逐个提供数据块 chunkstartmarker = 0 while chunkstartmarker < numtrainingpoints: chunkrows = range(chunkstartmarker,chunkstartmarker+chunksize) X_chunk, y_chunk = getrows(chunkrows) yield X_chunk, y_chunk chunkstartmarker += chunksize def main(): batcherator = iter_minibatches(chunksize=1000) model = SGDRegressor() for X_chunk, y_chunk in batcherator: model.partial_fit(X_chunk, y_chunk) y_predicted = model.predict(X_test)