当使用如下代码时:
callbacks = [ EarlyStopping(patience=15, monitor='val_loss', min_delta=0, mode='min'), ModelCheckpoint('best-weights.h5', monitor='val_loss', save_best_only=True, save_weights_only=True)]model.fit(..., callbacks=callbacks)y_pred = model.predict(x_test)
我在进行预测时使用的是训练过程中计算出的最佳权重,还是model
使用的是最后的权重(这些权重可能不是最佳的)?
因此,上述方法是否安全,或者即使在训练后立即进行预测,我也应该将best-weights.h5
加载到模型中?
回答:
EarlyStopping回调本身不会保存任何东西(你可以查看其源代码https://github.com/keras-team/keras/blob/master/keras/callbacks.py#L458来确认)。因此,你的代码保存的是在训练被提前停止前,在开发集上取得最佳结果的最后一个模型。我认为,如果你只根据开发集保存最佳模型,那么同时使用提前停止回调是没有意义的(除非你想节省时间,并且你非常确定继续训练不会找到更好的模型)。