df
被分割成训练和测试数据框。训练数据框进一步被分割成训练和测试数据框。因变量Y
是二元的(因子类型),其值为0和1。我试图使用以下代码(神经网络,caret包)来预测概率:
library(caret)
model_nn <- train(
Y ~ ., training,
method = "nnet",
metric="ROC",
trControl = trainControl(
method = "cv", number = 10,
verboseIter = TRUE,
classProbs=TRUE
))
model_nn_v2 <- model_nn
nnprediction <- predict(model_nn, testing, type="prob")
cmnn <-confusionMatrix(nnprediction,testing$Y)
print(cmnn) # 混淆矩阵用于评估/比较模型
然而,这会给我这样的错误:
Error: At least one of the class levels is not a valid R variable name; This will cause errors when class probabilities are generated because the variables names will be converted to X0, X1 . Please use factor levels that can be used as valid R variable names (see ?make.names for help).
我不明白“使用可以作为有效的R变量名的因子级别”是什么意思。因变量Y
已经是一个因子,但不是有效的R变量名吗?
附注:如果在trainControl()
中删除classProbs=TRUE
,在train()
中删除metric="ROC"
,代码可以完美运行。然而,"ROC"
指标是我比较最佳模型的指标,所以我试图制作一个使用“ROC”指标的模型。
编辑:代码示例:
# 你必须在运行模型之前运行所有这些代码
classes <- c("a","b","b","c","c")
floats <- c(1.5,2.3,6.4,2.3,12)
dummy <- c(1,0,1,1,0)
chr <- c("1","2","2,","3","4")
Y <- c("1","0","1","1","0")
df <- cbind(classes, floats, dummy, chr, Y)
df <- as.data.frame(df)
df$floats <- as.numeric(df$floats)
df$dummy <- as.numeric(df$dummy)
classes <- c("a","a","a","b","c")
floats <- c(5.5,2.6,7.3,54,2.1)
dummy <- c(0,0,0,1,1)
chr <- c("3","3","3,","2","1")
Y <- c("1","1","1","0","0")
df <- cbind(classes, floats, dummy, chr, Y)
df <- as.data.frame(df)
df$floats <- as.numeric(df$floats)
df$dummy <- as.numeric(df$dummy)
回答:
这里有两个独立的问题。
第一个是错误信息,它说明了一切:你必须为你的因变量Y
使用除了"0", "1"
之外的其他值作为因子的值。
在构建你的数据框df
之后,你可以通过至少两种方式来做到这一点;第一种方法在错误信息中有所提示,即使用make.names
:
df$Y <- make.names(df$Y)
df$Y
# "X1" "X1" "X1" "X0" "X0"
第二种方法是使用levels
函数,这样你可以明确控制名称本身;再次以X0
和X1
为例展示:
levels(df$Y) <- c("X0", "X1")
df$Y
# [1] X1 X1 X1 X0 X0
# Levels: X0 X1
添加上述任一行代码后,所示的train()
代码将顺利运行(用df
替换training
),但仍然不会产生任何ROC值,而是给出警告:
Warning messages:
1: In train.default(x, y, weights = w, ...) :
The metric "ROC" was not in the result set. Accuracy will be used instead.
这将我们带到了第二个问题:为了使用ROC指标,你必须在train()
的trControl
参数中添加summaryFunction = twoClassSummary
:
model_nn <- train(
Y ~ ., df,
method = "nnet",
metric="ROC",
trControl = trainControl(
method = "cv", number = 10,
verboseIter = TRUE,
classProbs=TRUE,
summaryFunction = twoClassSummary # 新增
))
使用你提供的玩具数据运行上述代码片段仍然会出现错误(缺少ROC值),但这可能是由于这里使用了非常小的数据集结合了大量的交叉验证折数所致,在你自己的完整数据集中不会发生这种情况(如果我将交叉验证折数减少到number=3
,它可以正常工作)…