在下面的维基页面中,iteration1的图片展示了一个基本的神经网络:http://www.heatonresearch.com/wiki/Back_Propagation
如果你观察隐藏层的第一个神经元(H1),你会注意到其总和为:-0.5313402159445314,而输出为:0.3702043582229371
我无法理解的是输出的计算方法。如果我对总和值使用Sigmoid或双曲正切函数,会得到不同的结果。
谢谢
回答:
他们使用的是Sigmoid激活函数。
公式为1/(1+exp(-x))。
我们可以通过Python来验证:
from math import expx=-0.5313402159445314print 1./(1.+exp(-x))
输出结果为0.370204358223