我对此非常新手,而且感到相当困惑。我正在用随机森林(分类)训练我的模型,并试图完全理解以下概念。
据我所知:你可以用训练/测试分割、交叉验证或OOB(自助法)来分割你的模型。然后,准确率或F1得分代表你的模型在测试集上的表现(准确率在类别平衡时更有效,F1在类别不平衡时更有效)。
但OOB得分是验证集表现的代表,那么它是用来衡量模型在你的数据上的训练效果的吗?
我是不是误解了什么?
我主要是混淆了准确率/F1得分和OOB得分之间的区别。
任何建议都将不胜感激
回答:
你正在查看的这是两个不同的方面:
-
指标,这些是你用来评估模型在一组数据上的表现的数学公式,所以你会提供真实标签(实际标签)和预测标签,然后计算出一个指标得分,这些指标包括:
- 准确率
- 精确率
- 召回率
- F1得分
- 均方误差
- 等
-
方差减少,这些是你用来减少模型方差的方法,即:防止模型对数据过拟合,这些方法包括:
- 使用两个不同的数据集(即训练/测试分割)
- 交叉验证(例如K折交叉验证,留一法交叉验证等)
- 袋外估计(Out of Bag),这特别用于随机森林算法中,对用于集合(森林)中每个学习器的数据进行自助抽样。
- 等
所以,基本上,你使用一种方法来试图减少模型的方差,以便改善指标。
关于你的具体问题:OOB得分与准确率得分有什么关系?OOB算法创建用于训练的数据子集,然后使用这些子集的预测标签计算指标得分。