目前正在进行一个多标签分类器。我在调用Keras的evaluate方法时得到了可疑的高准确率(0.94)(evaluate方法返回准确率和损失)。然后我尝试按照这里描述的Keras如何评估准确率?手动编写这个方法。
然而,我自己计算的准确率要低得多。F1_mico:0.7157894736842105准确率:0.3530864197530864
我不明白为什么会这样。我认为这可能与类别不平衡有关。f1_mico值较高,而f1_macro约为0.45,所以这似乎是合理的(我有一个层次结构,所以某些类别自然会比其他类别出现得更频繁)。然而,Keras是如何得到如此高的准确率的,这对我来说并不合理。代码如下:
model.compile(optimizer=adam, loss='binary_crossentropy', metrics=['accuracy'])#print("Traning Model...")model.fit(X_train, y_train, batch_size=batch_size, epochs=epochs, verbose=1, callbacks=[checkpoint], validation_data=(X_test, y_test)) # starts trainingprint("Testing Model")output = model.predict(X_final, batch_size = batch_size)for pred_i in output: pred_i[pred_i >=0.5] = 1 pred_i[pred_i < 0.5] = 0print "F1: " + str(f1_score(y_final, output, average='micro'))print "Accuracy: " + str(accuracy_score(y_final, output))mscores = model.evaluate(X_final, y_final, batch_size = batch_size)print mscores
输出:
Creating Model...Testing ModelF1: 0.7157894736842105Accuracy: 0.3530864197530864405/405 [==============================] - 8s 20ms/step['0.15227678694106914', '0.9422222640779283']
回答:
Keras计算的准确率是通过比较one-hot编码向量的每个值,看看它们是否匹配。如果数据相当稀疏,这会导致系统具有高准确率,因为大多数值将被分配为零。scikit-learn的准确率只有在完整预测匹配时才会返回1。