使用SVM作为基分类器的AdaBoost执行时间

我刚刚创建了一个AdaBoost分类器,使用以下参数,

1.n_estimators = 50

2.base_estimator = svc (支持向量分类器)

3.learning_rate = 1

这是我的代码:

from sklearn.ensemble import AdaBoostClassifierfrom sklearn.svm import SVCsvc = SVC(kernel = 'linear',probability = True)ABC = AdaBoostClassifier(n_estimators = 50, base_estimator = svc, learning_rate = 1)ABC.fit(X,Y)

数据集有18个独立变量和1个分类依赖变量,数据集有10480个数据点

每次运行这个程序时,都需要很长时间,但没有任何结果。

有没有办法检查执行时间?或者有什么更好的方法来做这件事?


回答:

在实践中,我们从不使用SVM作为AdaBoost的基分类器。

AdaBoost(以及类似的集成方法)最初是使用决策树作为基分类器设计的(更具体地说,是决策树桩,即深度仅为1的决策树);这也是为什么直到今天,如果你不明确指定base_classifier参数,它会默认使用DecisionTreeClassifier(max_depth=1)。决策树适合这种集成,因为它们本质上是不稳定的分类器,而SVM则不是,因此后者用作基分类器时预计不会带来太多好处。

此外,SVM在计算上比决策树(更不用说决策树桩)要昂贵得多,这就是你观察到的处理时间长的原因。

除非你有非常充分的理由坚持使用SVM作为基分类器(我非常怀疑你有这样的理由),否则请删除base_estimator = svc以恢复到默认设置,这样你很可能就没问题了。

Related Posts

多维度Top-k评分

例如,在机器学习中的自然语言处理中,通常使用波束搜索来…

R – Caret train() “错误:停止” 与 “在newdata中未找到对象中使用的所有变量名”

我正在尝试为蘑菇数据构建一个简单的朴素贝叶斯分类器。我…

创建训练和测试数据集分割,数据嵌套在多个文件夹中

我正在准备数据以训练一个图像识别模型。目前我有一个文件…

我的神经网络预测出现错误:IndexError: list index out of range

我正在进行一个简单的垃圾邮件/非垃圾邮件文本分类。我的…

python 给出数组是一维的,但索引了两个维度错误

我已经为 miniBatchGradientDesce…

TensorFlow自定义训练步骤使用不同的损失函数

背景 根据TensorFlow文档,可以使用以下方式执…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注