假设我使用手头可用的测试/训练数据创建了一个随机森林回归模型。这包括了特征缩放和类别数据编码。
现在,如果我在一天内获得了一个新的数据集,并且需要使用这个模型来预测这个新数据集的结果,并将其与我拥有的新数据集结果进行比较,我是否也需要对这个数据集应用特征缩放和类别数据编码?
例如,在第一天,我有10,000行数据,包含6个特征和1个标签——这是一个回归问题。我使用这些数据构建了一个模型。到了第二天,我获得了2,000行数据,具有相同特征和标签,但数据内容当然会不同。
现在,我首先想使用这个模型和第二天的数据进行预测,根据我的模型,这应该是什么标签。其次,我希望使用这个结果将模型的输出与我拥有的第二天的原始标签进行比较。
因此,为了做到这一点,当我将第二天的特征作为测试集传递给模型时,我是否需要首先对它们进行特征缩放和类别数据编码?
这在某种程度上与使用接收到的数据进行预测和验证有关,以便评估接收到的数据质量。
回答:
您始终需要以模型期望的格式将数据传递给模型。如果模型是在缩放、编码等数据上训练的。每次您将新数据推入训练好的模型时(无论出于何种原因),都需要执行所有这些转换。
最简单的解决方案是使用sklearn
的Pipeline
创建一个包含所有这些转换的管道,然后使用它,而不是模型本身来对新条目进行预测,这样所有这些转换都会自动应用。
例如,自动应用StandardScaler
的缩放功能,然后再将数据传递到模型中:
from sklearn.pipeline import Pipelinefrom sklearn.svm import SVCpipe = Pipeline([('scaler', StandardScaler()), ('svc', SVC())])// 然后 pipe.fit...pipe.score...pipe.predict...
这同样适用于因变量。如果你在训练模型之前对其进行了缩放,那么你也需要对新的数据进行缩放,或者在将模型的输出与原始因变量值进行比较之前,你需要对模型的输出应用逆操作。