隐藏层中的隐藏节点数量一般应增加、减少还是保持不变?我注意到在一些卷积网络如AlexNet、VGG和ResNet中,节点数量在后续层中往往会增加。这是为什么?这真的重要吗?
回答:
没有普遍的规则,如何构建你的神经网络完全取决于具体问题。几乎任何方案——减少、增加、小瓶颈、宽“颈”——都有其特定的应用。要真正理解发生了什么,你需要大量的经验,但总的来说,调整架构是相当棘手的,通常是通过一些“经验法则”来完成的,比如“我们使用XXX使用的架构,然后尝试稍作调整”。
隐藏层中的隐藏节点数量一般应增加、减少还是保持不变?我注意到在一些卷积网络如AlexNet、VGG和ResNet中,节点数量在后续层中往往会增加。这是为什么?这真的重要吗?
回答:
没有普遍的规则,如何构建你的神经网络完全取决于具体问题。几乎任何方案——减少、增加、小瓶颈、宽“颈”——都有其特定的应用。要真正理解发生了什么,你需要大量的经验,但总的来说,调整架构是相当棘手的,通常是通过一些“经验法则”来完成的,比如“我们使用XXX使用的架构,然后尝试稍作调整”。