关于预测有一个快速问题。
我试图预测的值是0或1(它被设置为数值类型,而不是因子类型),所以当我运行我的随机森林模型时:
fit <- randomForest(PredictValue ~ <variables>, data=trainData, ntree=50)
并进行预测:
pred<-predict(fit, testData)
我的所有预测值都在0到1之间——这是我预期的,并且我认为可以解释为是1的概率。
现在,如果我使用gbm算法进行同样的过程:
fitgbm <- gbm(PredictValue~ <variables>, data=trainData, distribution = "bernoulli", n.trees = 500, bag.fraction = 0.75, cv.folds = 5, interaction.depth = 3)predgbm <- predict(fitgbm, testData)
这些值的范围是从-0.5到0.5
我还尝试了glm,结果范围更差,大约从-3到3。
所以,我的疑问是:是否可以设置这些算法,使其预测值在0到1之间?
谢谢
回答:
你需要指定type='response'
来实现这一点:
查看这个例子:
y <- rep(c(0,1),c(100,100))x <- runif(200)df <- data.frame(y,x)fitgbm <- gbm(y ~ x, data=df, distribution = "bernoulli", n.trees = 100)predgbm <- predict(fitgbm, df, n.trees=100, type='response')
这个例子过于简单,但看看predgbm
的摘要:
> summary(predgbm) Min. 1st Qu. Median Mean 3rd Qu. Max. 0.4936 0.4943 0.5013 0.5000 0.5052 0.5073
正如文档中提到的,这是y为1的概率:
如果type=”response”,那么gbm会转换回与结果相同的尺度。目前这只会影响到返回伯努利分布的概率和泊松分布的预期计数。