如果在AdaBoost算法中使用决策树作为基估计器,会有什么不同?
回答:
随机森林是AdaBoost的特例吗?
绝对不是;随机森林是一种称为装袋的集成算法(即自助法聚合的简称),这与提升方法不同 – 请查看这里了解它们的区别。
如果在AdaBoost算法中使用决策树作为基估计器,会有什么不同?
你不会得到随机森林,而是得到一个梯度树提升机器,这种方法在多个软件包中都有提供,如xgboost(R/Python)、gbm(R)、scikit-learn(Python)等。
欲了解更多,请查看优秀的(且免费提供的)书籍《统计学习导论》的第8章,或者《统计学习的要素》(内容涉及大量数学与理论,不适合初学者)…