相同的Keras模型在Ubuntu和Windows之间得到不同的结果?

我想用我的Linux电脑来训练模型。我直接在Windows上加载了预训练模型,但损失值变高了,准确率也下降了。

这是我的训练模型

def create_model(self):    print("CREATE NEW MODEL")    input_img = Input(shape=(nb_features,))    selection = Dense(64, activation='relu')(input_img)    selection = Dropout(0.20)(selection)    selection = Dense(32, activation='relu')(selection)    selection_out1 = Dropout(0.20)(selection)    selection_out2 = Dense(nb_class)(selection_out1)    selection_out3 = Activation("softmax")(selection_out2)    self.model_1 = Model(input=input_img, output=selection_out1)    self.model_2 = Model(input=input_img, output=selection_out2)    # construct the selection model     self.model_3 = Model(input=input_img, output=selection_out3)    # compile autoencoder    self.model_3.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])def save_model(self, num=0):    if num == -1:        self.model_1.save("./model/model_1_")        self.model_2.save("./model/model_2_")        self.model_3.save("./model/model_3_")    else:        self.model_1.save("./model/model_1_" + str(num))        self.model_2.save("./model/model_2_" + str(num))        self.model_3.save("./model/model_3_" + str(num))

这是我的输出

UbuntuEpoch 193/2006375/6375 [==============================] - 0s 14us/step - loss: 0.0188 - acc: 0.9936Epoch 194/2006375/6375 [==============================] - 0s 14us/step - loss: 0.0151 - acc: 0.9956WindowsEpoch 193/2006375/6375 [==============================] - 0s 17us/step - loss: 0.0043 - acc: 0.9995Epoch 194/2006375/6375 [==============================] - 0s 17us/step - loss: 0.0019 - acc: 0.9997

Ubuntu似乎总有一些未消除的错误。


回答:

首先,你在两个系统上的tensorflowkerasnumpy版本可能存在差异。如果这些版本不一致,问题很可能是因为版本之间实现上的微小差异,而不是Ubuntu和Windows之间的差异。

假设你的版本是相同的:

即使你的模型架构相同,也不意味着它会得到相同的结果。

在任何训练开始之前,每一层都需要初始化一些权重来开始。通常,默认的初始化函数是glorot_uniform,它从某个范围内的均匀分布中随机抽取样本。

此外,Dropout层会在训练期间随机关闭一些神经元,这也会增加模型在不同训练会话中的表现差异。

你看到的差异不是Ubuntu与Windows之间的差异,而是不同的初始权重和Dropout在训练期间关闭不同的神经元所导致的。

Related Posts

如何使用Google Protobuf解析、编辑和生成object_detection/pipeline.config文件

我在一个常见的集成学习范式中训练多个模型,目前我在处理…

我的GridSearchCV不起作用,我不知道为什么

大家好,我在使用GridSearchCV时遇到了问题,…

Keras: 两个同时进行的层,其中一个对前一层的输出进行卷积

我想实现这样的模型连接: 输入图像1 -> 卷积层1 …

如何将行数据转换为列数据而不使用独热编码

我有一个如下所示的数据集。 MonthDate Day…

使用 ML Kit 与 NNAPI

我正在尝试在运行 Android 9 的设备上使用新的…

Vowpal Wabbit 可能的哈希冲突

我在VW中生成了一个模型,并且在相同的数据上生成了两个…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注