神经网络误差趋势

我对神经网络还比较陌生,所以当我在数据中发现这个趋势时,我非常感兴趣。我有一个使用反向传播且无动量的多层感知器网络。学习率为0.02,训练中允许的最小误差边缘为0.01。网络需要学习如何正确地对两个布尔值(其值为1或0)执行异或操作。为了应对异或问题没有线性可分性的情况,网络中加入了有偏置的神经元(我不确定我是否正确地表达了这一点)。网络中的神经元使用Sigmoid传输函数。我想知道为什么图表会以这种趋势增长。再次随机化网络的权重并重新训练后,图表总是显示成这样。这是为什么呢?误差图表的截图


回答:

对我来说,这看起来是正确的,或许你只是误读了图表。x轴上是你所进行的迭代次数。为了简化,可以将其视为时间轴。y轴是你网络的误差(误差越低越好)。所以随着训练时间的推进,你的网络产生的结果越来越好(误差越来越低)。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注