weights = {  # 5x5卷积，1个输入，32个输出
 'wc1': tf.Variable(tf.random_normal([5, 5, 1, 32])),
 # 5x5卷积，32个输入，64个输出
 'wc2': tf.Variable(tf.random_normal([5, 5, 32, 64])),
 # 全连接层，7*7*64个输入，1024个输出
 'wd1': tf.Variable(tf.random_normal([7*7*64, 1024])),
 # 1024个输入，10个输出（类别预测）
 'out': tf.Variable(tf.random_normal([1024, num_classes]))}

我的问题是：如何计算特征/通道的输出数量？在这种情况下，第一层是32，第二层是64，第三层是1024。如果我在CNN中增加或减少32、64、1024这些数字，会有什么影响？

回答：

这个CNN模型的限制如下：

• 7x7是由输入图像大小决定的。在这种情况下，经过两次下采样（池化）操作后是28x28。
• 卷积层中的特征数量（32、64）可以任意设置，但必须与下一层的深度值相对应。因此，如果你将wc1中的32改为48，你也必须将wc2中的32改为48。
• 全连接层的尺寸也是如此：wd1中的1024必须与out中的1024对应。

除此之外，你可以设置任何值，尽管这可能或可能不会改善网络性能。通常，研究人员会尽可能地设置较大的值，以便模型仍然能适应GPU内存，因为较大的模型往往学得更好。同时，从早期层向下增加尺寸也是有意义的，以便捕捉所学特征的复杂性，即第二层的多样性大于第一层。