我一直在自学如何创建感知器,总体上进展顺利。目前唯一遇到的问题是理解在感知器权重更新中输入存在的直觉是什么:
权重变化 = 学习率 * 误差 * 输入
我一直在参考这个链接,但它并没有解释输入的存在原因,《用Java进行神经网络编程》这本书也没有解释。我确信这个理由很简单,但我无法理解。感谢任何帮助 – 谢谢!
编辑:我的初步解释是,输入到权重的数据在乘积中使用,因为它决定了与其他输入相比,对整个感知器的重要性
回答:
这并不是关于输入的“重要性”,但在某种程度上可以这样解释。这直接源于对函数梯度的分析。求你的成本函数的导数,你会发现输入信号是导数的一部分。为什么它会出现在那里?因为导数依赖于它,主要依赖于方向(因此 – 输入的符号)。