随机森林是一种强大的算法。在随机森林中,它训练多个小树并具有OOB准确性。然而,是否有必要同时运行交叉验证和随机森林?
回答:
OOB误差是随机森林误差的无偏估计,这很好。但你使用交叉验证的目的是什么?如果你要将RF与其他不使用相同方式进行装袋的算法进行比较,你需要一种低方差的方式来比较它们。你无论如何都必须使用交叉验证来支持其他算法。然后,对于RF和其他算法使用交叉验证样本分割仍然是一个好主意,这样你就可以消除由分割选择引起的方差。
如果你要将一个RF与另一个具有不同特征集的RF进行比较,那么比较OOB误差是合理的。如果你确保两个RF在训练期间使用相同的装袋集,这一点尤其正确。