当我使用Python中的scikit-learn构建随机森林模型时,我设置了一个条件(类似于SQL查询中的where子句),使得训练数据只包含大于0的值。
我想知道当测试数据中出现小于0的值时,随机森林模型如何处理这些它在训练数据中从未见过的值。
回答:
这些值将被视为训练集中已遇到过的最小值来处理。随机森林只是由多个投票决策树组成的,(基本的)决策树只能形成“如果特征X大于T则向左走,否则向右走”这样的决策。因此,如果你对某一特征的值仅在[0, 无穷大]范围内进行训练,它要么完全不使用这个特征,要么以上述形式使用(作为“如果X大于T”的决策,其中T必须在(0, 无穷大)范围内才对训练数据有意义)。因此,如果你简单地将新数据中的负值改为“0”,结果将是相同的。