train()函数中的ROC指标,caret包

df被分割成训练和测试数据框。训练数据框进一步被分割成训练和测试数据框。因变量Y是二元的(因子类型),其值为0和1。我试图使用以下代码(神经网络,caret包)来预测概率:

library(caret)
model_nn <- train(
  Y ~ ., training,
  method = "nnet",
  metric="ROC",
  trControl = trainControl(
    method = "cv", number = 10,
    verboseIter = TRUE,
    classProbs=TRUE
  ))
model_nn_v2 <- model_nn
nnprediction <- predict(model_nn, testing, type="prob")
cmnn <-confusionMatrix(nnprediction,testing$Y)
print(cmnn) # 混淆矩阵用于评估/比较模型

然而,这会给我这样的错误:

    Error: At least one of the class levels is not a valid R variable name; This will cause errors when class probabilities are generated because the variables names will be converted to  X0, X1 . Please use factor levels that can be used as valid R variable names  (see ?make.names for help).

我不明白“使用可以作为有效的R变量名的因子级别”是什么意思。因变量Y已经是一个因子,但不是有效的R变量名吗?

附注:如果在trainControl()中删除classProbs=TRUE,在train()中删除metric="ROC",代码可以完美运行。然而,"ROC"指标是我比较最佳模型的指标,所以我试图制作一个使用“ROC”指标的模型。

编辑:代码示例:

# 你必须在运行模型之前运行所有这些代码
classes <- c("a","b","b","c","c")
floats <- c(1.5,2.3,6.4,2.3,12)
dummy <- c(1,0,1,1,0)
chr <- c("1","2","2,","3","4")
Y <- c("1","0","1","1","0")
df <- cbind(classes, floats, dummy, chr, Y)
df <- as.data.frame(df)
df$floats <- as.numeric(df$floats)
df$dummy <- as.numeric(df$dummy)
classes <- c("a","a","a","b","c")
floats <- c(5.5,2.6,7.3,54,2.1)
dummy <- c(0,0,0,1,1)
chr <- c("3","3","3,","2","1")
Y <- c("1","1","1","0","0")
df <- cbind(classes, floats, dummy, chr, Y)
df <- as.data.frame(df)
df$floats <- as.numeric(df$floats)
df$dummy <- as.numeric(df$dummy)

回答:

这里有两个独立的问题。

第一个是错误信息,它说明了一切:你必须为你的因变量Y使用除了"0", "1"之外的其他值作为因子的值。

在构建你的数据框df之后,你可以通过至少两种方式来做到这一点;第一种方法在错误信息中有所提示,即使用make.names

df$Y <- make.names(df$Y)
df$Y
# "X1" "X1" "X1" "X0" "X0"

第二种方法是使用levels函数,这样你可以明确控制名称本身;再次以X0X1为例展示:

levels(df$Y) <- c("X0", "X1")
df$Y
# [1] X1 X1 X1 X0 X0
# Levels: X0 X1

添加上述任一行代码后,所示的train()代码将顺利运行(用df替换training),但仍然不会产生任何ROC值,而是给出警告:

Warning messages:
1: In train.default(x, y, weights = w, ...) :
  The metric "ROC" was not in the result set. Accuracy will be used instead.

这将我们带到了第二个问题:为了使用ROC指标,你必须在train()trControl参数中添加summaryFunction = twoClassSummary

model_nn <- train(
  Y ~ ., df,
  method = "nnet",
  metric="ROC",
  trControl = trainControl(
    method = "cv", number = 10,
    verboseIter = TRUE,
    classProbs=TRUE,
    summaryFunction = twoClassSummary # 新增
  ))

使用你提供的玩具数据运行上述代码片段仍然会出现错误(缺少ROC值),但这可能是由于这里使用了非常小的数据集结合了大量的交叉验证折数所致,在你自己的完整数据集中不会发生这种情况(如果我将交叉验证折数减少到number=3,它可以正常工作)…

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注