在评估SVM、RF和DT(max_depth = 3)的性能时,我发现RF模型的表现非常优越。所建模的数据是真实世界的数据。它们都是使用分层交叉验证来评估的,因为数据集是不平衡的。
对于之前看到的4个不同类别,我得到了这些精确度、召回率和F1分数。
最初,数据集包含以下4个类别的值计数,如下所示:
- 进料故障-(差异P-set/P-actual): 4 098个数据样本
- 进料故障-(进料安全电路故障): 383个数据样本
- 发电机加热: 228 668个数据样本
- 其他: 51 966 851个样本
为什么RF会比SVM和DT好那么多?
提前感谢!
回答:
这些结果完全合理!随机森林是一种比决策树强大得多的算法,因为它基本上是DT的集合。集合(多个模型的组合)在机器学习中以其在未见数据上的泛化能力而闻名。当决策树或SVM过拟合时,随机森林通常表现得相对较好,因为内部许多DT看到的是一组不同的特征,它们对结果进行投票。