我是深度学习的新手，所以我构建了这个模型来训练我的数据。我尝试了许多组合，包括增加层、更改激活函数、更改损失函数，但损失值一直没有下降。希望能得到大家的帮助。

我的训练数据包含1000个样本：1000行，20列都是数字，输出是一个包含4个数字的列表。以下是我的模型：

from keras import modelsfrom keras.models import Sequentialfrom keras import layersfrom keras.layers import Densefrom keras.layers import Flatten , Dropoutfrom keras.optimizers import SGDfrom keras.callbacks import EarlyStoppingfrom sklearn.preprocessing import StandardScalerfrom keras import optimizersscaler = StandardScaler()input_shape = x_train[0].shapex_train_std = scaler.fit_transform(x_train)model = Sequential()model.add(layers.Dense(32, activation='sigmoid' , input_shape=input_shape))model.add(Dropout(0.1))model.add(layers.Dense(20, activation='sigmoid' ))model.add(Dropout(0.1))model.add(layers.Dense(15, activation='sigmoid' ))model.add(Dropout(0.1))model.add(layers.Dense(4, activation='softmax'))#sgd = optimizers.SGD(lr=0.00001, decay=1e-6, momentum=0.85, nesterov=True)#opt = SGD(lr=0.1, nesterov=True)sgd = optimizers.SGD(lr=0.01, momentum=0.87, nesterov=True)model.compile(loss='mean_squared_error',              optimizer=sgd)es = EarlyStopping(monitor='val_loss', patience=10)history = model.fit(x_train_std, y_train , validation_split=0.1, epochs=100, batch_size=1 , callbacks = [es])#,

回答：

由于您是在回归设置中，您不应该在最后一层使用softmax作为激活函数 – 应该使用linear激活（如果未定义，这是默认的）。

中间层的Sigmoid激活也是非常不建议的 – 应该使用relu代替。

此外，默认情况下您不应该使用dropout – 从不使用它开始，只有在它提高了验证性能时再添加。

总的来说，以下是您的模型起步时的样子：

model = Sequential()model.add(layers.Dense(32, activation='relu' , input_shape=input_shape))# model.add(Dropout(0.1))model.add(layers.Dense(20, activation='relu' ))# model.add(Dropout(0.1))model.add(layers.Dense(15, activation='relu' ))# model.add(Dropout(0.1))model.add(layers.Dense(4)) # default activation='linear'

您可以根据需要取消注释dropout层（并不一定都要一起使用）。

尝试使用Adam优化器也是一个很好的初步方法：

model.compile(loss='mean_squared_error',              optimizer=keras.optimizers.Adam())

最后，您绝对应该增加batch_size（起步时尝试64或128）。