我正在努力理解深度神经网络的概念。它们在解释时通常会说，网络的每一层代表一个抽象层次，例如，第一层是关于边缘的，下一层是关于形状的，比如轮子，再下一层是关于轮子组合成的物体，比如汽车。

这张图片很好地展示了这个概念：

在确定每一层的权重时，是一次处理一层还是所有层一起处理？你是先用标记了不同类型边缘的图像集运行AI，然后用标记了轮子等物体的图像集，最后用标记了汽车的图像集，还是让网络自己去弄明白这些？

回答：

你不会为深度网络的每一层提供监督，因为构建这样的数据集过于复杂。你在这些幻灯片上看到的是对其自发发生情况的解释，而不是我们强加的结果。既有逐层训练的技术（现在不太流行），也有所有层一起训练的技术（现在流行），但它们都不使用额外的监督，你不会告诉网络去提取边缘，这些只是从优化问题和网络结构中自然涌现出来的实践结果。

然而，也有一些深度架构不具备这种特性，比如https://arxiv.org/abs/1603.09382，或者一般来说——递归网络（在这种意义上也是“深度”的）。因此，不要将此视为深度学习的特性，这只是在处理特定数据时常见的经验观察，仅此而已。