如何为 sklearn.linear_model.SGDRegressor 设置参数,使其执行批量梯度下降?
我想使用批量梯度下降来解决一个线性回归问题。我需要让 SGD 表现得像批量梯度下降一样,我想这可以通过在每个 epoch 结束时修改模型来实现。是否可以通过某种参数设置让它这样运行?
回答:
我需要让 SGD 表现得像批量梯度下降一样,我想这可以通过在每个 epoch 结束时修改模型来实现。
你不能这样做;从文档中可以清楚地看到:
损失的梯度是每次一个样本地估计的,模型会在过程中更新
尽管在SGDClassifier
文档中提到
SGD 允许小批量(在线/离线)学习
这可能也适用于 SGDRegressor
,但实际的意思是你可以使用 partial_fit
方法以不同的批次提供数据;然而,计算(和更新)总是按样本进行的。
如果你确实需要使用 GD 进行线性回归,你可以在 Keras 或 Tensorflow 中轻松实现,只需组装一个 LR 模型,并将批量大小设置为整个训练样本集的大小即可。