训练过程中MSE有可能增加吗？
我目前正在计算验证集在每个epoch的MSE，并且在某个点上，MSE开始增加而不是减少。有人能解释这种行为吗？
回答：
回答你的问题：是的，这是有可能的。
如果你使用了正则化或随机训练，训练过程中MSE出现一些波动是正常的。
导致这一问题的一些可能原因
-
你使用的学习率过高，导致超过了成本函数的局部最小值，出现了过冲问题。
-
神经网络出现了过拟合。训练过度，失去了其泛化能力。
你可以尝试的措施：
-
当这种情况开始发生时，降低你的学习率。
-
对你的网络应用某种正则化方法，如dropout，以避免过拟合。
