我有一个二元分类问题,在Python中使用默认参数解决得相当好(训练和测试准确率约为90%)。我的项目目标是在Python中训练一些“模型”,这些模型可以在以后我在编写的R库中重用。现在通过Boosters来实现,bst.save()和bst.load()。到目前为止,一切顺利。
我可以在Python中保存Booster,然后在R中重新加载。问题是,在Python中我有predict_proba()函数,而在R中却没有!
因此,我自然尝试了predict()函数,现在它只给我返回大于0.8的数字?我应该如何处理这些数字?我如何从predict()的结果中获得预测的标签(0或1)?我只是想在R中使用bst.predict(booster, data)方法时,得到一个包含预测的0或1的数组。
当然,我意识到我可能错过了某些重要的东西。这就是为什么我向你们求助的原因。
第一张图是predict()的结果与第二张图中的predict_proba()的比较。
回答:
在Python中训练模型时,原本必须在模型定义中设置objective='multi:softprob', num_class=2
。这将为Booster中的每个类别提供一个概率。换句话说,请查看文档中的以下内容:
multi:softprob与softmax相同,但输出一个ndata * nclass的向量,可以进一步重塑为ndata, nclass矩阵。结果包含每个数据点属于每个类别的预测概率。
当然,在R中使用在Python中训练的模型时,请勿忘记以与Python中相同的方式(相同顺序等)传递数据。由于您使用的是Booster类,SKLearn接口中的许多辅助功能都不存在,因此没有对您是否以相同顺序传递列以及其他所有内容进行双重检查。我只是根据某种语言(例如C)的字母顺序对列进行排序,并在“测试”模型时在R中重新排序。