我想看看Dropout是如何工作的，于是我进入了layers.core模块，并将dropout调用从in_train_phase改成了in_test_phase。

我不确定我的更改是否导致了这种奇怪的Dropout行为，请耐心一些。

考虑到这些更改，以下代码片段会产生不同的预测结果，具体取决于Dropout率：

from keras.models import Modelfrom keras.layers import Dropout, Inputimport numpy as npimport tensorflow as tffrom keras import initializersx=np.ones((2,2,4))# x[:,1,:] = 1print(x)from keras.layers import Denseinput = Input(name='atom_inputs', shape=(2, 4))x1 = Dense(4, activation='linear',           kernel_initializer=initializers.Ones(),           bias_initializer='zeros')(input)x1 = Dropout(0.5, noise_shape=(tf.shape(input)[0], 1, 4))(x1)fmodel = Model(input, x1)fmodel.compile(optimizer='sgd', loss='mse')print(fmodel.predict(x))

例如：

Dropout(0.2)[[[5. 5. 5. 5.]  [5. 5. 5. 5.]] [[5. 0. 5. 0.]  [5. 0. 5. 0.]]]Dropout(0.5)[[[0. 0. 8. 8.]  [0. 0. 8. 8.]] [[8. 0. 8. 8.]  [8. 0. 8. 8.]]]

我哪里做错了？Dropout是在密集输出层上定义的，所以它应该只影响那些开关的neurons，而不影响它们各自的值，对吗？

回答：

这是因为当使用Dropout时，你不仅是开启和关闭不同的neurons，还会对数据进行缩放，以补偿下一层可能由于部分neurons被遮蔽而接收到较少的信号。这种方法被称为反向Dropout，你可以在这里阅读更多相关信息。

因此，你网络的每个输出都会被1 / (1 - p)这个因子重新缩放以进行这种补偿。这就是为什么你的输出会不同的原因。

对于Dropout(0.2)，补偿因子是1 / (1 - 0.2) = 1.25，这导致结果为5 = 4 * 1.25；而对于Dropout(0.5)，补偿因子是1 / (1 - 0.5) = 2，这导致结果为8 = 4 * 2。