我在Keras中使用迁移学习实现卷积神经网络，通过keras.applications使用预训练的InceptionV3模型，如下所示

#Transfer learning with Inception V3base_model = applications.InceptionV3(weights='imagenet', include_top=False, input_shape=(299, 299, 3))## set model architechturex = base_model.outputx = GlobalAveragePooling2D()(x)x = Dense(1024, activation='relu')(x) predictions = Dense(y_train.shape[1], activation='softmax')(x) model = Model(input=base_model.input, output=predictions)for layer in base_model.layers:    layer.trainable = Falsemodel.compile(loss='categorical_crossentropy', optimizer='rmsprop', metrics=['accuracy'])model.summary()

我参考了一篇博客文章，文章中提到在冻结基础模型后，必须训练几个周期。我已经训练了模型5个周期，准确率达到了0.47。此后准确率没有太大提升。于是我停止了训练，并解冻了一些层，如下所示，同时冻结了前两个卷积层。

for layer in model.layers[:172]:   layer.trainable = Falsefor layer in model.layers[172:]:   layer.trainable = True

并使用较低的学习率编译了SGD优化器。

当层被冻结时，准确率没有太大提升时停止训练我的方法是否正确？我应该训练更长时间吗？

如何知道在层被冻结时停止训练的正确时机？

回答：

依我之见，你不需要训练那些随机初始化的层直到损失/准确率停止提升。

当我使用InceptionV3进行微调时，我只训练了额外的Dense层2个周期，尽管多训练几个周期可能会带来更好的损失/准确率。初始训练的周期数取决于你的问题和数据。（对我来说，2个周期达到了约40%。）

我认为只训练Dense层太长时间是浪费时间。训练它以获得比随机初始化明显更好的结果。然后解冻更多层，并与你的Dense层一起训练更长时间。一旦你的Dense层给出合理的预测，就可以训练其他层了，特别是InceptionV3中有批量归一化，这有助于稳定早期层的梯度方差。