Keras Training warm_start

是否可以继续训练一个Keras估计器,保留之前所有超参数(包括递减的学习率)和权重,就像在scikit-learn中使用warm_start参数那样?类似于这样:

estimator = KerasRegressor(build_fn=create_model, epochs=20, batch_size=40, warm_start=True)

具体来说,warm start应该这样做:

warm_start : bool, 可选,默认值为False 当设置为True时,复用上次调用fit的解决方案作为初始化,否则,直接清除之前的解决方案。

Keras中有类似的功能吗?


回答:

是的 – 这是可能的。但操作起来相当繁琐。你需要使用train_on_batch函数,该函数会保留所有模型参数(包括优化器的参数)。

这很繁琐,因为你需要自己将数据集分成批次,并且你还会失去应用Callbacks和使用自动progbar的机会。我希望在新的Keras版本中,这个选项能被添加到fit方法中。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注