我正在阅读这篇优秀的论文,并尝试实现以下内容:
… 我们将每一棵树视为一个分类特征,其值为实例最终落入的叶节点的索引。我们使用这种类型的特征的1-of-K编码。例如,考虑图1中的提升树模型,它有2个子树,其中第一个子树有3个叶节点,第二个子树有2个叶节点。如果一个实例在第一个子树中落入叶节点2,在第二个子树中落入叶节点1,那么输入到线性分类器的整体输入将是二进制向量[0, 1, 0, 1, 0],其中前3个条目对应于第一个子树的叶节点,最后2个条目对应于第二个子树的叶节点 …
有谁知道我如何预测一组行,并为这些行中的每一行获取集成中每棵树的选定叶节点?对于这个用例,我并不关心节点代表什么,只关心它的索引。我查看了源代码,但没有很快找到明显的方法。我可以看到我需要遍历树并做类似这样的事情:
for sample in X_test: for tree in gbc.estimators_: leaf = tree.leaf_index(sample) # 这是我需要的函数,但我想它不存在。 ...
任何建议都将不胜感激。
回答:
DecisionTreeRegressor 有一个 tree_
属性,可以让你访问底层的决策树。它有一个方法 apply
,似乎可以找到对应的叶节点ID:
dt.tree_.apply(X)
请注意,apply
方法期望其输入类型为 float32
。