我在尝试使用sklearn中的随机森林分类器包来拟合一个随机森林模型。然而,我的数据集中包含有字符串值的列(如’country’)。这里的随机森林分类器不接受字符串值,它需要所有特征都是数值。我考虑过用虚拟变量来替代这些列。但是,我对特征重要性图表现在会是什么样子感到困惑。将会出现像country_India、country_usa这样的变量。我如何才能得到像使用R进行分析时那样整合的国家变量的重要性呢?
回答:
你需要手动完成这个操作。sklearn中没有支持通过特征映射的逆变换来映射分类器特定方法的功能。R是基于多值分裂来计算重要性的(正如@Soren解释的那样)——当使用scikit-learn时,你只能进行二元分裂,并且你必须近似实际的重要性。最简单的解决方案之一(尽管有偏差)是存储哪些特征实际上是你分类变量的二元编码,并将这些特征重要性向量中的结果元素相加。从数学角度来看,这并不完全合理,但这是获得一些粗略估计的最简单方法。要正确地做到这一点,你应该从头开始重新实现特征重要性,并且在计算“在分类过程中特征对多少样本起作用”时,你需要使用你的映射来正确地评估每个样本仅对应于实际特征一次(因为添加虚拟重要性会计算分类路径上的每个虚拟变量,而你想要做的则是min(1, #dummy on path))。