sklearn中的随机森林

我在尝试使用sklearn中的随机森林分类器包来拟合一个随机森林模型。然而,我的数据集中包含有字符串值的列(如’country’)。这里的随机森林分类器不接受字符串值,它需要所有特征都是数值。我考虑过用虚拟变量来替代这些列。但是,我对特征重要性图表现在会是什么样子感到困惑。将会出现像country_India、country_usa这样的变量。我如何才能得到像使用R进行分析时那样整合的国家变量的重要性呢?


回答:

你需要手动完成这个操作。sklearn中没有支持通过特征映射的逆变换来映射分类器特定方法的功能。R是基于多值分裂来计算重要性的(正如@Soren解释的那样)——当使用scikit-learn时,你只能进行二元分裂,并且你必须近似实际的重要性。最简单的解决方案之一(尽管有偏差)是存储哪些特征实际上是你分类变量的二元编码,并将这些特征重要性向量中的结果元素相加。从数学角度来看,这并不完全合理,但这是获得一些粗略估计的最简单方法。要正确地做到这一点,你应该从头开始重新实现特征重要性,并且在计算“在分类过程中特征对多少样本起作用”时,你需要使用你的映射来正确地评估每个样本仅对应于实际特征一次(因为添加虚拟重要性会计算分类路径上的每个虚拟变量,而你想要做的则是min(1, #dummy on path))。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注