我开始使用NaiveBayes/Simple分类器进行分类(Weka),然而在训练数据时遇到了一些理解上的问题。我使用的数据集是weather.nominal.arff。
当我使用训练测试选项时,分类器的结果是:
Correctly Classified Instances 13 - 92.8571 % Incorrectly Classified Instances 1 - 7.1429 % a b classified as 9 0 a =yes1 4 b = no
我的第一个问题是如何理解那些被错误分类的实例?为什么会出现这样的问题?哪些属性集合被错误分类了?有没有方法可以理解这一点?
其次,当我尝试进行10折交叉验证时,为什么正确分类的实例数量不同(更少)?
结果是:
Correctly Classified Instances 8 57.1429 %Incorrectly Classified Instances 6 42.8571 % a b <-- classified as 7 2 | a = yes 4 1 | b = no
回答:
您可以通过选择以下选项来获取每个实例的个别预测:
More Options… > Output predictions > PlainText
这将在评估指标之外,提供以下信息:
=== Predictions on training set === inst# actual predicted error prediction 1 2:no 2:no 0.704 2 2:no 2:no 0.847 3 1:yes 1:yes 0.737 4 1:yes 1:yes 0.554 5 1:yes 1:yes 0.867 6 2:no 1:yes + 0.737 7 1:yes 1:yes 0.913 8 2:no 2:no 0.588 9 1:yes 1:yes 0.786 10 1:yes 1:yes 0.845 11 1:yes 1:yes 0.568 12 1:yes 1:yes 0.667 13 1:yes 1:yes 0.925 14 2:no 2:no 0.652
这表明第6个实例被错误分类。请注意,即使您在相同的实例上进行训练和测试,由于数据的不一致性也可能发生错误分类(最简单的例子是具有相同特征但类别标签不同的两个实例)。
请记住,上述测试方式是有偏见的(这有点作弊,因为它可以看到问题的答案)。因此,我们通常更感兴趣的是获得模型在未见数据上的误差的更现实的估计。交叉验证就是这样一种技术,它将数据划分为10个分层折叠,在一个折叠上进行测试,而在其他九个折叠上进行训练,最后报告十次运行的平均准确率。