是否可以将随机森林应用于非常小的数据集?我有一个数据集,包含许多变量,但每个变量只有25个观测值。随机森林产生了合理的结果,OOB错误率较低(10-25%)。关于使用的最小观测数量是否有任何经验法则?实际上,其中一个响应变量是不平衡的,如果我打算对其进行子抽样,最终将得到更少的观测数量。提前感谢
回答:
绝对可以将随机森林用于这种类型的数据集(即p>n)。事实上,他们在基因组学等领域使用随机森林,那里的字段数量>=20000,而行数非常少——比如说10-12。整个问题在于找出2万个变量中哪些能构成一个简洁的标记(即特征选择是整个问题)。
关于最小样本量的经验法则,我没有其他建议,除了如果你的模型在保留样本上表现不好(或者在你的情况下,保留一个样本的交叉验证可能效果不错),那么你应该尝试其他方法。
希望这对你有帮助