关于神经网络,为什么我们需要权重和偏置?
对于权重,我的直觉是我们试图将某些常数乘以输入,以便我们能够达到y
的值并了解关系,有点像y = mx + c
。如果可能的话,请帮助我解释这个直觉。
回答:
我想对来自这个网站的Jed Fox的回答表示感谢,我已经调整了他的解释。这是一个很好的神经网络入门!:
https://github.com/cazala/synaptic/wiki/Neural-Networks-101
调整后的回答:
网络中的神经元基于自然界中发现的神经元。它们接收信息,并根据这些信息引发某种反应。一个“激活”。
人工神经元看起来像这样:
人工神经元
如您所见,它们有多个输入,每个输入都有一个权重(该特定连接的权重)。当人工神经元激活时,它通过将所有传入的输入乘以相应的连接权重来计算其状态。但是,神经元总是有一个额外的输入,即偏置,始终为1,并且有自己的连接权重。这确保了即使所有输入均为零(全为0),神经元中也会有激活。
在计算其状态后,神经元将其传递通过其激活函数,该函数对结果进行归一化(通常在0-1之间)。
这些权重(有时还有偏置)是我们在神经网络中学习的内容。可以将它们视为系统的参数。没有它们,神经网络将毫无用处!
额外评论:在一个网络中,这些加权输入可能来自其他神经元,因此您可以开始看到权重也描述了神经元之间的关系,通常表示两个神经元之间关系的重要性。
希望这对您有帮助。互联网上有很多更多的信息,上面的链接也提供了更多信息。考虑阅读一些斯坦福大学关于卷积神经网络的材料,了解更多复杂的神经网络。