能有人告诉我“通常”深度神经网络有多少层吗？多深才算足够深呢？

据我所知，具体的隐藏层数量仍然很难确定。但是能否有人举一些例子，告诉我研究人员和开发者在他们的深度学习项目中通常使用多少个隐藏层？

非常感谢。

回答：

这完全取决于你试图建模的问题。你拥有的层数越多，训练网络就越困难（需要更多的计算能力）。然而，层越深，它就能解决越复杂的问题。

Geoffrey Hinton 在他的教程中写道：

一个AI程序应该使用多少行代码，每行应该有多长？——这显然是一个愚蠢的问题。

• 深度信念网络给创造者提供了很多自由。

– 如何最好地利用这种自由取决于任务。

– 如果有足够的窄层，我们可以对二进制向量的任何分布进行建模（Sutskever & Hinton, 2007）

• 如果自由让你感到害怕，那就坚持使用凸优化浅层模型，这些模型显然不足以进行人工智能研究。

据我所知，层数通常并不是很大。这里（ImageNet 大规模视觉识别挑战赛 2014）例如，谷歌团队使用了一个有22层的网络。