我构建了两个模型,一个没有隐藏层,并且在输出层使用了softmax函数。另一个模型有一个隐藏层,并且在隐藏层使用了sigmoid作为激活函数。我原本期待带有一个隐藏层的模型会有更好的表现,但实际上两个模型的表现几乎相同。我很好奇为什么没有隐藏层的模型表现得如此出色?在两种情况下,我都使用了大量数据来训练网络。以下是没有隐藏层的模型的输出。能否有人指导我为什么它显示出如此高的准确率?在文献中,我读到更深的网络具有更强的表达能力。
`step: 4400, train_acc: 0.99, test_acc: 0.996step: 4500, train_acc: 1.0, test_acc: 0.996step: 4600, train_acc: 1.0, test_acc: 0.998step: 4700, train_acc: 0.99, test_acc: 0.998step: 4800, train_acc: 1.0,test_acc: 1.0step: 4900, train_acc: 0.99,test_acc: 0.996`
回答:
看起来你的数据集是线性可分的,这意味着使用线性分类器可以在训练集上获得良好的准确率,即使不是100%。对于线性可分的问题,只需要一个神经元就能找到决策边界。添加更多的层和每个层更多的神经元,并使用非线性激活函数,只是为了创建更复杂的分类器来处理更复杂的模式。结论是,如果你已经达到了可能的最高准确率,那么你还能期待更复杂的网络提供什么呢?当然是计算成本。