在一次训练周期中，我应该使用训练数据样本多少次？假设我有60个训练数据。我处理第一行，进行前向传递，并使用后向传递的结果调整权重。使用如下所示的S形函数：

Forward pass Si = sum of (Wi * Uj)Ui = f(Si) = 1 / 1 + e^ - SiBackward pass Output Cell = (expected -Ui)(f'(Si)), where f'(Si) = Ui(1-Ui)

然后我应该处理第二行并进行与第一行相同的过程，还是应该继续处理第一行直到误差减少？

希望有人能帮助我，谢谢

回答：

训练网络

你应该在每个训练周期中使用训练集的每个实例一次。

一个训练周期是指完整地遍历你的数据集一次。

在你遍历完数据集并计算出增量后，你应该调整网络的权重。然后你可以对神经网络进行新的前向传递，并进行另一个训练周期，继续遍历你的训练数据集。

图形表示
关于反向传播的一个非常棒的图形表示可以在这个链接找到。

单步训练

有两种方法可以训练你的网络以对数据集进行分类。最简单的方法称为单步或在线学习。这是大多数文献中提到的方法，也是收敛速度最快的方法。在训练你的网络时，你将为每一层计算增量，并为数据集的每个实例调整权重。

因此，如果你有一个包含60个实例的数据集，这意味着在训练周期结束前，你应该调整了60次权重。

另一种方法称为批量训练或离线学习。这种方法通常能得到残差误差更低的网络。在训练网络时，你应该为数据集的每个实例计算每一层的增量，然后最终平均各个增量，并在每个周期一次性修正权重。

如果你有一个包含60个实例的数据集，这意味着在训练周期结束前，你应该调整了一次权重。