我在Keras中构建一个示例项目。该项目用于区分猫和狗。我在网上找到一个示例,模型如下:
model = Sequential()model.add(Conv2D(32, (3, 3), input_shape=(3, 150, 150)))model.add(Activation('relu'))model.add(MaxPooling2D(pool_size=(2, 2)))model.add(Conv2D(32, (3, 3)))model.add(Activation('relu'))model.add(MaxPooling2D(pool_size=(2, 2)))model.add(Conv2D(64, (3, 3)))model.add(Activation('relu'))model.add(MaxPooling2D(pool_size=(2, 2)))
我的问题是,人们如何知道使用哪些层?是否有关于何时使用Conv2D
、Conv1D
或其他层的指导原则或经验法则?
回答:
简而言之,他们并不知道。设计出好的架构是当前深度学习研究的主要内容。有一些经验法则和直觉,但大多数情况下——是经验或者借鉴已知有效的现有架构。
简而言之:
- 当数据具有空间和/或时间结构时使用卷积层,例如图像、视频、声音等。
- 池化层的使用场景与卷积层类似,仍然需要空间和/或时间结构(除非它应用于整个通道/维度),并提供一种去除“细节”(通常是噪声)并降低信号维度的方法。
- 当数据具有序列特性时使用循环层。
- 全连接层用于“强制”特定维度(因此通常用作最后一层),或者当人们不知道可以利用的任何结构时使用(因为它们是最通用的)。
然而,如何组合这些层、使用哪些超参数、使用多少个层是一个巨大的未解研究问题。在开始阶段,最好的方法是复制别人的架构,并通过实践获得一些经验和直觉,了解哪些对你处理的数据有效,哪些无效。