我尝试从头开始构建一个基于LeNet架构的CNN，参考自这篇文章
我实现了反向传播，现在正尝试使用16批次大小的随机梯度下降法（SGD）在MNIST数据集上训练它。我希望找到一种快速验证学习进展顺利且没有错误的方法。为此，我每100批次可视化一次损失，但这在我笔记本电脑上花费了太长时间，我看不到整体动态（损失呈下降趋势，但偶尔会跳回上升，所以我无法确定）。有谁能建议一个经过验证的方法，可以在不等待数小时训练的情况下，确定CNN运作良好吗？
回答：
MNIST包含60,000个28×28像素的数据集。使用批次大小为16的CNN训练，每个epoch将进行4000次前向传递。考虑到你使用的是并不算很深的LeNet模型，我建议你做以下几件事：
- 检查你的电脑规格，如内存、处理器、GPU等。
- 尝试在云服务上训练你的模型，例如Google Colab、Kaggle等
- 尝试使用128或64的批次大小
- 在训练前尝试对图像数据集进行归一化处理
训练速度还取决于你使用的机器学习框架，例如Tensorflow、Pytorch等。希望这些建议对你有帮助。
