我在Weka中进行分类任务时遇到一个问题,我的预测类别中有一个值非常频繁(约85%)。这导致许多学习算法在处理新数据集时只预测这个频繁出现的类别值。
我该如何处理这个问题?这是否意味着我没有找到足够有效的特征来进行更好的预测?还是有特定的方法可以解决这个问题?
我想这是一个相当常见的问题,但我在这里找不到解决方案。
回答:
你需要对数据进行“SMOTE”处理。首先要确定你需要多少个少数类别的实例。在我的案例中,我希望达到大约50/50的比例,所以我需要过采样1300%。如果你使用的是GUI界面,这个教程会对你有帮助:http://www.youtube.com/watch?v=w14ha2Fmg6U 如果你使用Weka的命令行进行操作,以下命令可以帮助你开始:
#Weka 3.7.7java weka.Run -no-scan weka.filters.supervised.instance.SMOTE \-c last -K 25 -P 1300.0 -S 1 -i input.arff -o output.arff
-K选项是进行SMOTE处理时考虑的邻居数量。默认值是5,但在我的数据集中,25是最佳选择。