假设我们有一些记录,这些记录包含了多个与我们试图预测的目标数字相关的特征。所有记录都遵循相同的基本模式,并且可以被RandomForestRegressor
很好地学习。现在假设所有记录都增加了一个类别特征,这个特征可以被编码为额外的信息,以提高模型的预测能力。目前为止,一切顺利。
但是,现在假设我们想使用已经在包含类别特征的数据上训练的回归器来预测具有训练数据中未包含的新类别的记录。在这种情况下,类别信息是否变得无用(甚至更糟)?为了获得最佳的泛化性能,模型是否应该在没有类别信息的情况下重新训练(因为它之前已经适应了不在此数据集中的类别)?或者,是否有可能通过了解训练数据中的类别成员身份来改善对样本外类别的预测能力?
回答:
如果这些集合没有交集,那么你不应该包含该变量。如果你期望在测试数据中看到一些原始值,那么你应该使用它。