我尝试使用tidymodels来调整包含配方和模型参数的工作流程。当调整单个工作流程时没有问题。但是在调整包含多个工作流程的workflowsets时总是失败。以下是我的代码:
# 读取训练数据train <- read_csv("../../train.csv")train <- train %>% mutate( id = row_number(), across(where(is.double), as.integer), across(where(is.character), as.factor), r_yn = fct_relevel(r_yn, "yes")) %>% select(id, r_yn, everything())# 设置配方# 无预处理rec_no <- recipe(r_yn ~ ., data = train) %>% update_role(id, new_role = "ID")# 下采样:调整under_ratiorec_ds_tune <- rec_no %>% step_downsample(r_yn, under_ratio = tune(), skip = TRUE, seed = 100) %>% step_nzv(all_predictors(), freq_cut = 100)# 设置模型# 随机森林spec_rf_tune <- rand_forest(trees = 100, mtry = tune(), min_n = tune()) %>% set_engine("ranger", seed = 100) %>% set_mode("classification")# xgboostspec_xgb_tune <- boost_tree(trees = 100, mtry = tune(), tree_depth = tune(), learn_rate = tune(), min_n = tune()) %>% set_engine("xgboost") %>% set_mode("classification")# 设置workflowsetswf_tune_list <- workflow_set( preproc = list(no = rec_no, ds = rec_ds_tune), models = list(rf = spec_rf_tune, xgb = spec_xgb_tune), cross = TRUE)# 最终确定参数,我不确定是否正确rf_params <- spec_rf_tune %>% parameters() %>% update(mtry = mtry(c(1, 15)))xgb_params <- spec_xgb_tune %>% parameters() %>% update(mtry = mtry(c(1, 15)))ds_params <- rec_ds_tune %>% parameters() %>% update(under_ratio = under_ratio(c(1, 5)))wf_tune_list_finalize <- wf_tune_list %>% option_add(param = ds_params, id = c("ds_rf", "ds_xgb")) %>% option_add(param = rf_params, id = c("no_rf", "ds_rf")) %>% option_add(param = xgb_params, id = c("no_xgb", "ds_xgb"))
我检查了wf_tune_list_finalize中的option,显示如下:
> wf_tune_list_finalize$option[[1]]一个包含名称的选项列表: 'param'[[2]]一个包含名称的选项列表: 'param'[[3]]一个包含名称的选项列表: 'param'[[4]]一个包含名称的选项列表: 'param'
然后我调整这个workflowset:
# 调整workflowsetcl <- makeCluster(detectCores())registerDoParallel(cl)wf_tune_race <- wf_tune_list_finalize %>% workflow_map(fn = "tune_race_anova", seed = 100, resamples = cv_5, grid = 3, metrics = metric_auc, control = control_race(parallel_over = "everything"), verbose = TRUE)stopCluster(cl)
详细信息显示我的参数在工作流程ds_rf和ds_xgb中出了问题:
i 1 of 4 tuning: no_rfi 创建预处理数据以最终确定未知参数: mtry�� 1 of 4 tuning: no_rf (1m 44.4s)i 2 of 4 tuning: no_xgbi 创建预处理数据以最终确定未知参数: mtry�� 2 of 4 tuning: no_xgb (28.9s)i 3 of 4 tuning: ds_rfx 3 of 4 tuning: ds_rf 失败,原因是:一些调整参数需要最终确定,但有一些配方参数需要调整。请使用`parameters()`来最终确定参数范围。i 4 of 4 tuning: ds_xgbx 4 of 4 tuning: ds_xgb 失败,原因是:一些调整参数需要最终确定,但有一些配方参数需要调整。请使用`parameters()`来最终确定参数范围。
结果是:
> wf_tune_race# A workflow set/tibble: 4 x 4 wflow_id info option result <chr> <list> <list> <list> 1 no_rf <tibble [1 x 4]> <wrkflw__ > <race[+]> 2 no_xgb <tibble [1 x 4]> <wrkflw__ > <race[+]> 3 ds_rf <tibble [1 x 4]> <wrkflw__ > <try-errr [1]>4 ds_xgb <tibble [1 x 4]> <wrkflw__ > <try-errr [1]>
此外,虽然no_rf和no_xgb有调整结果,但我发现这两个工作流程中的mtry范围并不是我上面设置的范围,这意味着参数范围设置步骤完全失败。我已经按照https://www.tmwr.org/workflow-sets.html和https://workflowsets.tidymodels.org/的教程进行了操作,但仍然没有找到解决方法。
那么,在调整workflowsets时,如何正确设置配方和模型参数呢?
我代码中的train.csv在这里:https://github.com/liuyifeikim/Some-data
回答:
我已经修改了参数设置步骤,现在调整结果是正确的:
# 分别在每个工作流程上设置参数no_rf_params <- wf_set_tune_list %>% extract_workflow("no_rf") %>% parameters() %>% update(mtry = mtry(c(1, 15)))no_xgb_params <- wf_set_tune_list %>% extract_workflow("no_xgb") %>% parameters() %>% update(mtry = mtry(c(1, 15)))ds_rf_params <- wf_set_tune_list %>% extract_workflow("ds_rf") %>% parameters() %>% update(mtry = mtry(c(1, 15)), under_ratio = under_ratio(c(1, 5)))ds_xgb_params <- wf_set_tune_list %>% extract_workflow("ds_xgb") %>% parameters() %>% update(mtry = mtry(c(1, 15)), under_ratio = under_ratio(c(1, 5)))# 更新workflowsetwf_set_tune_list_finalize <- wf_set_tune_list %>% option_add(param_info = no_rf_params, id = "no_rf") %>% option_add(param_info = no_xgb_params, id = "no_xgb") %>% option_add(param_info = ds_rf_params, id = "ds_rf") %>% option_add(param_info = ds_xgb_params, id = "ds_xgb")
其余部分保持不变。我认为可能有一些更有效的方法来设置参数。