我训练了一个4输入1输出的神经网络一个月，后来这个神经网络升级为5输入1输出。我应该用新配置重新训练，还是可以继续使用旧的训练结果？

回答：

如果剩下的4个输入仍然代表相同的内容，你不需要从头开始。相反，在输入层添加一个新的神经元，并在它与隐藏单元之间添加边。按照通常的方式初始化它们，但保留剩余的权重。换句话说——你是在用之前的网络作为优化过程的起点。如果你无法再访问历史数据（或者没有时间重新训练所有内容），这样做应该会更快地收敛，并且总体上效果会更好。