如何调整神经网络的参数,比如层数、层类型、宽度等?我现在只是简单地猜测好的参数。这对我来说变得非常昂贵和耗时,因为我会调整一个网络,然后发现它没有比之前的模型更好。有没有更好的方法来调整模型以获得好的测试和验证分数?
回答:
这完全是尝试和错误的方法。你需要多加尝试。没有特定的方法可以做到这一点。尝试使用GPU而不是CPU来加快计算速度,例如“Google Colab”。我的建议是记下所有可以调整的参数,例如:
- 优化器:尝试使用不同的优化器,如Adam、SGD等更多选项
- 学习率:这是非常关键的参数,尝试将其从0.0001调整到0.001,每次增加0.0001。
- 隐藏层数量:尝试增加隐藏层的数量。
- 尝试使用批量归一化或Drop out,或者在需要时同时使用两者。
- 使用正确的损失函数。
- 改变批量大小和轮次。