感知器学习 – 权重更新中的输入直觉

我一直在自学如何创建感知器,总体上进展顺利。目前唯一遇到的问题是理解在感知器权重更新中输入存在的直觉是什么:

权重变化 = 学习率 * 误差 * 输入

我一直在参考这个链接,但它并没有解释输入的存在原因,《用Java进行神经网络编程》这本书也没有解释。我确信这个理由很简单,但我无法理解。感谢任何帮助 – 谢谢!

编辑:我的初步解释是,输入到权重的数据在乘积中使用,因为它决定了与其他输入相比,对整个感知器的重要性


回答:

这并不是关于输入的“重要性”,但在某种程度上可以这样解释。这直接源于对函数梯度的分析。求你的成本函数的导数,你会发现输入信号是导数的一部分。为什么它会出现在那里?因为导数依赖于它,主要依赖于方向(因此 – 输入的符号)。

Related Posts

Keras Dense层输入未被展平

这是我的测试代码: from keras import…

无法将分类变量输入随机森林

我有10个分类变量和3个数值变量。我在分割后直接将它们…

如何在Keras中对每个输出应用Sigmoid函数?

这是我代码的一部分。 model = Sequenti…

如何选择类概率的最佳阈值?

我的神经网络输出是一个用于多标签分类的预测类概率表: …

在Keras中使用深度学习得到不同的结果

我按照一个教程使用Keras中的深度神经网络进行文本分…

‘MatMul’操作的输入’b’类型为float32,与参数’a’的类型float64不匹配

我写了一个简单的TensorFlow代码,但不断遇到T…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注