在scikit-learn的Python中使用bootstrap=False的随机森林

如果我们选择bootstrap=False,RandomForestClassifier()会做什么?

根据这个链接中的定义

http://scikit-learn.org/stable/modules/generated/sklearn.ensemble.RandomForestClassifier.html#sklearn.ensemble.RandomForestClassifier

bootstrap : boolean, optional (default=True) 是否在构建树时使用bootstrap样本。

我问这个问题是因为我想对时间序列使用随机森林方法,使用大小为(t-n)的滚动窗口进行训练,并预测日期(t+k),所以我想知道如果我们选择True或False会发生什么:

1) 如果Bootstrap = True,那么训练样本可以是任意一天的,特征数量也可以是任意数目。例如,可以有来自(t-15)日、(t-19)日和(t-35)日的样本,每个样本都有随机选择的特征,然后预测日期(t+1)的输出。

2) 如果Bootstrap = False,它将使用从日期(t-n)到t的所有样本和所有特征进行训练,因此实际上会尊重日期顺序(意味着它将使用t-35、t-34、t-33…等直到t-1)。然后会预测日期(t+1)的输出。

如果Bootstrap的工作原理是这样的话,我会倾向于使用Bootstrap = False,因为如果不是这样的话(考虑到金融系列),仅仅忽略连续几天的回报,直接从t-39日跳到t-19日,然后跳到t-15日来预测t+1日,这会有点奇怪。我们会错过这些日子之间的所有信息。

那么…Bootstrap的工作原理是这样的吗?


回答:

看起来你把观察的bootstrap和特征的抽样混淆了。《统计学习导论》对随机森林提供了非常好的介绍。

随机森林的优势在于通过抽样观察和特征来创建大量不同的树。Bootstrap = False是告诉它是否要有放回地抽样观察 – 当它为False时,它仍然会抽样,只是没有放回。

你可以通过设置max_features来告诉它你想要抽样的特征比例,可以是特征的比例或者只是一个整数(这是你通常会调整以找到最佳参数的东西)。

在构建每一棵树时,你不会有每一天的数据是没问题的——这就是RF的价值所在。每个单独的树将是一个相当差的预测器,但当你将数百或数千棵树的预测平均在一起时,你(可能)会得到一个好的模型。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注