如何从scikit-learn的DecisionTreeRegressor中获取选定的叶节点

我正在阅读这篇优秀的论文,并尝试实现以下内容:

… 我们将每一棵树视为一个分类特征,其值为实例最终落入的叶节点的索引。我们使用这种类型的特征的1-of-K编码。例如,考虑图1中的提升树模型,它有2个子树,其中第一个子树有3个叶节点,第二个子树有2个叶节点。如果一个实例在第一个子树中落入叶节点2,在第二个子树中落入叶节点1,那么输入到线性分类器的整体输入将是二进制向量[0, 1, 0, 1, 0],其中前3个条目对应于第一个子树的叶节点,最后2个条目对应于第二个子树的叶节点 …

有谁知道我如何预测一组行,并为这些行中的每一行获取集成中每棵树的选定叶节点?对于这个用例,我并不关心节点代表什么,只关心它的索引。我查看了源代码,但没有很快找到明显的方法。我可以看到我需要遍历树并做类似这样的事情:

for sample in X_test:  for tree in gbc.estimators_:    leaf = tree.leaf_index(sample) # 这是我需要的函数,但我想它不存在。    ...

任何建议都将不胜感激。


回答:

DecisionTreeRegressor 有一个 tree_ 属性,可以让你访问底层的决策树。它有一个方法 apply,似乎可以找到对应的叶节点ID:

dt.tree_.apply(X)

请注意,apply 方法期望其输入类型为 float32

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注