我想使用交叉验证来确定随机森林方法中尝试的变量数量。我不明白如何在rfcv()
函数中使用mtry
参数。
我的数据集中有6个预测变量。我想使用mtry = 6,5,4,3,2,1
,例如,任何可能的m值,并使用5折交叉验证进行交叉验证。
我认为这可以通过randomForest
包的rfcv()
函数来完成。我正在运行以下代码:
rf_cv<- rfcv(training_x,training_y,cv.fold=5, mtry=function(p) max(1, p-1))
然而,调用rf_cv$n.var
得到的结果是:[1] 6 3 1
因此,这种方法并没有像我希望的那样应用mtry
,因为我指定每次减少使用的变量数量1。
如何尝试每一种变量数量,并对每种变量数量应用5折交叉验证?
我查看了这个帖子,但它并不完全相关,因为他们在讨论mtry
的默认值。
回答:
在你引用的帖子中,它解释了步骤如何决定测试的mtry。因此,在你的情况下,p=6,并且由于你没有更改步骤或尺度,那么:
p=6; 0.5k <- floor(log(p, base = 1/step))n.var <- round(p * step^(0:(k - 1)))[1] 6 3
如果n.var不包括1,它会自动包含1,这给你6,3,1。所以如果你想尝试所有数字,将mtry设置为身份函数,步骤设置为1,尺度设置为任何非”log”的值(是的,代码不提供其他选项):
rf_cv=rfcv(matrix(rnorm(100*6),ncol=6),rnorm(100),cv.fold=3,mtry=identity,scale="new",step=-1)rf_cv$n.var[1] 6 5 4 3 2 1