在 scikit-learn 中使用批量梯度下降

如何为 sklearn.linear_model.SGDRegressor 设置参数,使其执行批量梯度下降?

我想使用批量梯度下降来解决一个线性回归问题。我需要让 SGD 表现得像批量梯度下降一样,我想这可以通过在每个 epoch 结束时修改模型来实现。是否可以通过某种参数设置让它这样运行?


回答:

我需要让 SGD 表现得像批量梯度下降一样,我想这可以通过在每个 epoch 结束时修改模型来实现。

你不能这样做;从文档中可以清楚地看到:

损失的梯度是每次一个样本地估计的,模型会在过程中更新

尽管在SGDClassifier文档中提到

SGD 允许小批量(在线/离线)学习

这可能也适用于 SGDRegressor,但实际的意思是你可以使用 partial_fit 方法以不同的批次提供数据;然而,计算(和更新)总是按样本进行的。

如果你确实需要使用 GD 进行线性回归,你可以在 Keras 或 Tensorflow 中轻松实现,只需组装一个 LR 模型,并将批量大小设置为整个训练样本集的大小即可。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注