我读过一些其他关于这个问题的提问（及其相关回答），但我仍然有疑问：给阈值激活函数添加偏置会改变阈值吗？据我所知，添加偏置应该会使激活函数沿x轴移动，因此它也应该会改变阈值。

假设我们只有一个输入节点和一个输出节点，并且输入节点有一个阈值设为0的阈值激活函数。现在如果我们输入1，神经元会激活并返回1 * weight到输出节点，但如果我们添加一个偏置节点a_0 = -1，其权重为2，并连接到输入节点，再次输入1，神经元将不会激活，因为现在我们需要达到至少2才能激活它。这是否可以被认为是“改变”了阈值呢？

回答：

你读过这些关于偏置的非常好的解释吗：偏置解释和偏置解释2？

正如第一个链接中所说，偏置会使曲线移动，从而使计算结果更加多样化。我认为如果你已经使用了偏置，你不需要使用阈值（将阈值设为0），因为偏置和阈值都做同样的事情，即沿x轴移动激活函数。

但我认为偏置比阈值更有效率。这是因为偏置值只是权重，可以像神经网络中的任何其他权重一样进行精确计算。阈值需要与权重分开计算。在encog论坛上有一些关于偏置和阈值的有趣比较。

这是使用偏置计算的神经网络：

这是使用阈值计算的：

两者会给出相同的结果。如果你对完整的计算感兴趣，可以阅读上面的encog wiki。

所以我认为对你的问题“偏置是否会改变激活函数的阈值”的回答是肯定的。在我关于混合GA和NN的论文中，我尝试过两者，最终只使用偏置并将阈值设为0。

我希望我的回答能帮到你，但如果你对我回答的其他问题有疑问，请随时在评论中提问 🙂