我在使用随机森林来预测数据集中的标签。我的问题是:使用随机森林进行10折交叉验证有意义吗?直觉上我认为随机森林本身就进行了交叉验证——那么,在每个分割中进行交叉验证并构建随机森林分类器是否有任何好处呢?
回答:
实际上,你进行交叉验证是为了验证模型的选择(例如,比较两个具有不同k值的随机森林)。这与随机森林在学习集上学习不同树木的过程并不完全相同。
在实践中,只有当你的训练集很小且无法将其划分为训练/验证集时,你才会进行k折交叉验证。
如果你的数据集很小,使用kf-CV进行验证可能是个好主意,但如果不是这样,我会使用一个单独的验证集(比如学习集的20%)来调整参数(以避免过拟合,获得更好的准确性)。