我在使用scikit-learn库(Python 3.x版本)的RandomForestRegressor类,并且我知道决策树中衡量分裂质量的函数是方差减少(均方误差)。鉴于RandomForestRegressor类支持多个输出,我的疑问是:在这种特定类中,如何在存在多个输出时计算分裂的质量?
通过阅读定义分裂标准的类源代码,我认为树中分裂的杂质减少是通过所有输出变量的平均杂质减少来计算的。因此,给定多个输出,只构建一个模型。这是scikit-learn的RandomForestRegressor类中的默认方式吗?我希望有人能和我一起查看,因为我并不完全确定我的陈述是否正确!
非常感谢!
回答:
scikit-learn对应类的作者之一(Gilles Louppe)友好地回答了我的问题:上述理解是正确的。方差减少是针对每个类别计算的,然后取平均值以产生最终得分。