我正在为我的大学项目创建一个神经网络，它可以对信用卡交易是否具有欺诈的可能性进行分类。 我正在使用反向传播进行训练。 我正在用Java编写。 我想应用多线程，因为我的电脑是四核i7。 花费数小时进行训练并且看到我的大多数内核处于空闲状态让我很困扰。

但是如何将多线程应用于反向传播呢？ 反向传播通过向后调整网络中的误差来工作。 必须先完成一个层，然后另一个层才能继续。 有没有办法修改我的程序以进行多核反向传播？

回答：

首先，不要使用反向传播。 还有很多其他的选择。 我建议尝试RPROP（弹性传播）。 这不会对你的反向传播算法造成太大的修改。 你不需要指定学习率或动量。 它实际上几乎就像你为神经网络中的每个连接都有一个单独的、可变的学习率。

至于将多线程应用于反向传播。 我刚刚写了一篇关于这个主题的文章。

http://www.heatonresearch.com/encog/mprop/compare.html

基本上，我创建了多个线程，并划分训练数据，以便每个线程都具有几乎相等的数量。 我在每个线程中计算梯度，并在reduce步骤中对它们求和。 如何将梯度应用于权重取决于所使用的传播训练算法，但权重更新是在临界区中完成的。

当你拥有比权重多得多的训练样本时，代码在多线程梯度计算中花费的时间比在临界区权重更新中花费的时间要多得多。

我在上面的链接中提供了一些性能结果。 它确实加快了速度！