如果我们选择bootstrap=False,RandomForestClassifier()会做什么?
根据这个链接中的定义
bootstrap : boolean, optional (default=True) 是否在构建树时使用bootstrap样本。
我问这个问题是因为我想对时间序列使用随机森林方法,使用大小为(t-n)的滚动窗口进行训练,并预测日期(t+k),所以我想知道如果我们选择True或False会发生什么:
1) 如果Bootstrap = True
,那么训练样本可以是任意一天的,特征数量也可以是任意数目。例如,可以有来自(t-15)日、(t-19)日和(t-35)日的样本,每个样本都有随机选择的特征,然后预测日期(t+1)的输出。
2) 如果Bootstrap = False
,它将使用从日期(t-n)到t的所有样本和所有特征进行训练,因此实际上会尊重日期顺序(意味着它将使用t-35、t-34、t-33…等直到t-1)。然后会预测日期(t+1)的输出。
如果Bootstrap的工作原理是这样的话,我会倾向于使用Bootstrap = False,因为如果不是这样的话(考虑到金融系列),仅仅忽略连续几天的回报,直接从t-39日跳到t-19日,然后跳到t-15日来预测t+1日,这会有点奇怪。我们会错过这些日子之间的所有信息。
那么…Bootstrap的工作原理是这样的吗?
回答:
看起来你把观察的bootstrap和特征的抽样混淆了。《统计学习导论》对随机森林提供了非常好的介绍。
随机森林的优势在于通过抽样观察和特征来创建大量不同的树。Bootstrap = False
是告诉它是否要有放回地抽样观察 – 当它为False时,它仍然会抽样,只是没有放回。
你可以通过设置max_features
来告诉它你想要抽样的特征比例,可以是特征的比例或者只是一个整数(这是你通常会调整以找到最佳参数的东西)。
在构建每一棵树时,你不会有每一天的数据是没问题的——这就是RF的价值所在。每个单独的树将是一个相当差的预测器,但当你将数百或数千棵树的预测平均在一起时,你(可能)会得到一个好的模型。