如何正确地使用for循环在决策树上实现装袋法?

我试图使用决策树和for循环来实现装袋和投票。我使用了sklearn的resample函数。然而,我得到了Number of labels=97 does not match number of samples=77的错误,我大致能理解为什么会这样,但不确定如何修复它。

数据集中有150个样本。标签也有150个,所以150 * 0.35 = 97,并且97 * 0.8 = 77。X是长度为150的特征矩阵,y是长度为150的标签向量。

以下是我的代码

from sklearn.model_selection import train_test_splitfrom sklearn.metrics import accuracy_scorefrom sklearn.utils import resampleX_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.35, random_state=3)predictions = []for i in range(1,20):    bootstrap_size = int(0.8*len(X_train))    bag = resample(X_train, n_samples = bootstrap_size , random_state=i , replace = True)     Base_DecisionTree = DecisionTreeClassifier(random_state=3)    Base_DecisionTree.fit(bag, y_train)    y_predict = Base_DecisionTree.predict(X_test)    accuracy = accuracy_score(y_test, y_predict)    predictions.append(accuracy)

回答:

你应该同时对标签进行重采样,并在fit()中使用它。

x_bag, y_bag = resample(X_train, y_train, n_samples = bootstrap_size , random_state=i , replace = True) tree = DecisionTreeClassifier(random_state=3)tree.fit(x_bag, y_bag)

Related Posts

如何对SVC进行超参数调优?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

如何在初始训练后向模型添加训练数据?

我想在我的scikit-learn模型已经训练完成后再…

使用Google Cloud Function并行运行带有不同用户参数的相同训练作业

我正在寻找一种方法来并行运行带有不同用户参数的相同训练…

加载Keras模型,TypeError: ‘module’ object is not callable

我已经在StackOverflow上搜索并阅读了文档,…

在计算KNN填补方法中特定列中NaN值的”距离平均值”时

当我从头开始实现KNN填补方法来处理缺失数据时,我遇到…

使用巨大的S3 CSV文件或直接从预处理的关系型或NoSQL数据库获取数据的机器学习训练/测试工作

已关闭。此问题需要更多细节或更清晰的说明。目前不接受回…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注