我在网上看到了很多关于这个问题的提问,但没有找到明确的解决方案,我的案例可能有所不同,因为它涉及时间序列数据和LSTM架构。
model = Sequential()model.add(LSTM(50, activation='relu', return_sequences=True, input_shape=(n_steps, n_features)))model.add(LSTM(50, activation='relu'))model.add(Dense(1, activation = 'sigmoid'))model.compile(optimizer='adam', loss='binary_crossentropy',metrics=['accuracy'])
日志:
Train on 290 samples, validate on 190 samplesEpoch 1/4000 - 1s - loss: 0.6896 - accuracy: 0.5586 - val_loss: 0.6846 - val_accuracy: 0.6105Epoch 2/4000 - 0s - loss: 0.6890 - accuracy: 0.5586 - val_loss: 0.6843 - val_accuracy: 0.6105Epoch 3/4000 - 0s - loss: 0.6889 - accuracy: 0.5586 - val_loss: 0.6829 - val_accuracy: 0.6105Epoch 4/4000 - 0s - loss: 0.6884 - accuracy: 0.5586 - val_loss: 0.6827 - val_accuracy: 0.6105Epoch 5/4000 - 0s - loss: 0.6883 - accuracy: 0.5586 - val_loss: 0.6825 - val_accuracy: 0.6105Epoch 6/4000 - 0s - loss: 0.6882 - accuracy: 0.5586 - val_loss: 0.6822 - val_accuracy: 0.6105Epoch 7/4000 - 0s - loss: 0.6882 - accuracy: 0.5586 - val_loss: 0.6820 - val_accuracy: 0.6105Epoch 8/4000 - 0s - loss: 0.6880 - accuracy: 0.5586 - val_loss: 0.6818 - val_accuracy: 0.6105Epoch 9/4000 - 0s - loss: 0.6880 - accuracy: 0.5586 - val_loss: 0.6806 - val_accuracy: 0.6105Epoch 10/4000 - 0s - loss: 0.6876 - accuracy: 0.5586 - val_loss: 0.6795 - val_accuracy: 0.6105
回答:
可以尝试以下几种方法:
- 降低学习率。
- 数据集是否不平衡?如果是的话,模型可能已经学会只预测一个类别(我认为这是这里的原因)。
- 尝试为不平衡的类别分配更多权重,参考这里。
- 尝试重置模型,使用
tf.keras.backend.clear_session
。 - 尝试使用集成学习,弱学习器。
- 更好的方法是,尝试一个基本的时间序列回归模型,如
ARMA
,以获得基准结果。