我在学习决策树和装袋分类器,并试图展示装袋分类器中使用的第一个决策树。我对输出的结果感到困惑。
from sklearn.model_selection import train_test_splitfrom sklearn.datasets import make_moonsfrom sklearn.ensemble import BaggingClassifierfrom sklearn import treefrom sklearn.tree import DecisionTreeClassifierfrom sklearn.tree import export_graphvizfrom graphviz import SourceX, y = make_moons(n_samples=500, noise=0.30, random_state=42)X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=42)bag_clf = BaggingClassifier( DecisionTreeClassifier(), n_estimators=500, max_samples=100, bootstrap=True, n_jobs=-1)bag_clf.fit(X_train, y_train)Source(tree.export_graphviz(bag_clf.estimators_[0], out_file=None))
这是输出的一部分
据我所知,value
应该显示有多少样本被分类为每个类别。在这种情况下,value
字段中的数字不应该加起来等于 samples
字段吗?为什么这里不是这样?
回答:
观察得很好。
看起来额外的自助样本被包含在 value
中,但没有包含在总的 samples
中;如果你原样重复你的代码,但将 bootstrap
改为 False
,就可以消除这种差异:
随机森林中的行为也类似,无论是分类器还是回归器 – 请分别参见: