如何选择深度学习中CNN的窗口大小?

在卷积神经网络(CNN)中,会选择一个滤波器用于权重共享。例如,在下面的图片中,选择了步长(相邻神经元之间的距离)为1的3×3窗口。

所以我的问题是:如何选择窗口大小? 如果我使用4×4窗口,步长为2,会造成多大的差异?提前感谢你们!


回答:

这个问题没有确定的答案:滤波器大小是您通常需要调整的超参数之一。然而,有一些有用的观察可能会帮助您。通常更倾向于选择较小的滤波器,但数量要更多

例如,四个5x5的滤波器有100个参数(不考虑偏置),而十个3x3的滤波器有90个参数。通过使用更大的滤波器,您仍然可以捕捉图像中的各种特征,但参数更少。更多信息请参见这里

现代CNN进一步发展了这一理念,选择连续的3x11x3卷积层。这进一步减少了参数数量,但不影响性能。请参见Inception网络的演变

步长的选择也很重要,但它会影响卷积后的张量形状,从而影响整个网络。一般规则是,在普通卷积中使用stride=1并通过填充保持空间大小,当您想对图像进行降采样时使用stride=2

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注