如何计算灰度图像中简单深度网络的参数数量 [重复]

如何计算灰度图像中CNN的权重数量?

以下是代码:

定义输入图像大小

input_shape = (32, 32, 1)flat_input_size = input_shape[0]*input_shape[1]*input_shape[2]num_classes = 4

简单深度网络

dnn_model = Sequential()dnn_model.add(Dense(input_dim=flat_input_size, units=1000))dnn_model.add(Activation("relu"))dnn_model.add(Dense(units=512))dnn_model.add(Activation("relu"))dnn_model.add(Dense(units=256))dnn_model.add(Activation("relu"))dnn_model.add(Dense(units=num_classes))dnn_model.add(Activation("softmax"))

下图是网络结构图enter image description here

以下是结果enter image description here

有谁能帮我计算参数数量?如何得到1025000、512512、131328、1028,请详细说明


回答:

对于带偏置的全连接层(偏置为+1),计算方法如下:

(input_neurons + 1) * output_neurons

在你的例子中,第一层的计算是:

(32 * 32 + 1) * 1000 = 1025000

第二层的计算是:

(1000 + 1) * 512 = 512512

以此类推。

根据评论中提出的额外问题编辑了答案:

对于卷积层,正如评论中所问,你尝试为每个输入通道和每个输出通道学习一个滤波器核,并增加一个偏置。因此,参数的数量计算如下:

kernel_width * kernel_height * input_channels * output_channels + output_channels = num_parameters

在你的例子中,我们从大小为(None, 16, 16, 32)的特征图转换到大小为(None, 14, 14, 64)的特征图,使用(3, 3)的核,计算如下:

3 * 3 * 32 * 64 + 64 = 18496

这实际上是CNN中重要的一点,即参数数量与图像大小无关。

Related Posts

Keras Dense层输入未被展平

这是我的测试代码: from keras import…

无法将分类变量输入随机森林

我有10个分类变量和3个数值变量。我在分割后直接将它们…

如何在Keras中对每个输出应用Sigmoid函数?

这是我代码的一部分。 model = Sequenti…

如何选择类概率的最佳阈值?

我的神经网络输出是一个用于多标签分类的预测类概率表: …

在Keras中使用深度学习得到不同的结果

我按照一个教程使用Keras中的深度神经网络进行文本分…

‘MatMul’操作的输入’b’类型为float32,与参数’a’的类型float64不匹配

我写了一个简单的TensorFlow代码,但不断遇到T…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注