动机
通过Keras神经网络运行一组带标签的向量。
示例
查看Keras数据集示例mnist:
keras.datasets import mnist(x_tr, y_tr), (x_te, y_te) = mnist.load_data()print x_tr.shape
它似乎是一个三维的numpy数组:
(60000, 28, 28)
- 第一维是样本
- 第二和第三维是每个样本的特征
尝试
构建带标签的向量:
X_train = numpy.array([[1] * 128] * (10 ** 4) + [[0] * 128] * (10 ** 4))X_test = numpy.array([[1] * 128] * (10 ** 2) + [[0] * 128] * (10 ** 2))Y_train = numpy.array([True] * (10 ** 4) + [False] * (10 ** 4))Y_test = numpy.array([True] * (10 ** 2) + [False] * (10 ** 2))X_train = X_train.astype("float32")X_test = X_test.astype("float32")Y_train = Y_train.astype("bool")Y_test = Y_test.astype("bool")
训练代码
model = Sequential()model.add(Dense(128, 50))model.add(Activation('relu'))model.add(Dropout(0.2))model.add(Dense(50, 50))model.add(Activation('relu'))model.add(Dropout(0.2))model.add(Dense(50, 1))model.add(Activation('softmax'))rms = RMSprop()model.compile(loss='binary_crossentropy', optimizer=rms)model.fit(X_train, Y_train, batch_size=batch_size, nb_epoch=nb_epoch, show_accuracy=True, verbose=2, validation_data=(X_test, Y_test))score = model.evaluate(X_test, Y_test, show_accuracy=True, verbose=0)print('Test score:', score[0])print('Test accuracy:', score[1])
结果
Test score: 13.9705320154Test accuracy: 1.0
为什么在这样一个简单的数据库上得到如此糟糕的结果?我的数据集是否有问题?
谢谢!
回答:
仅在一个输出节点上使用softmax没有多大意义。如果你将model.add(Activation('softmax'))
改为model.add(Activation('sigmoid'))
,你的网络表现会很好。
或者,你也可以使用两个输出节点,其中1, 0
代表True
的情况,0, 1
代表False
的情况。然后你可以使用softmax层。你只需要相应地更改你的Y_train
和Y_test
即可。