我一直在参加Kaggle的30天机器学习课程,现在已经进行到两周了。我刚完成了Kaggle上的两个机器学习课程,想重新审视泰坦尼克号数据集,看看能否做得更好。但我遇到了麻烦。开始时我做了一些预处理,删除了训练集和测试集顶部的12个NaN值。然后我使用SimpleImputer和OrdinalEncoder构建了一个管道。管道似乎可以无问题地拟合X_train和y_train。然而,当我尝试对测试集进行填补和编码时,我得到一个包含清理值的新数据框,但管道无法对其进行预测,并抛出以下错误:
ValueError: 在转换过程中,在第0列中发现未知类别 [0.0, 1.0]
有人可以提供建议吗?
我会在下面放上我认为相关的代码片段:
numerical_cols = [col for col in X_train.columns if X_train[col].dtypes in ['int64', 'float64']]categorical_cols = [col for col in X_train.columns if X_train[col].dtypes == 'object']
—
# 管道numerical_transformer = SimpleImputer(strategy = 'most_frequent')categorical_transformer = Pipeline(steps = [ ('imputer', SimpleImputer(strategy = 'most_frequent')), ('encoder', OrdinalEncoder())])preprocessor = ColumnTransformer(transformers = [ ('num', numerical_transformer, numerical_cols), ('cat', categorical_transformer, categorical_cols)])model = XGBRegressor(n_estimators = 500)pipe = Pipeline(steps = [ ('preprocessor', preprocessor), ('model', model)])
—
pipe.fit(X_train, y_train)
—
# 处理测试数据X_test = X_test.dropna(axis = 0)# 填补impute_X_test = pd.DataFrame(numerical_transformer.fit_transform(X_test[numerical_cols]))impute_X_test.columns = X_test[numerical_cols].columns# 编码label_X_test = categorical_transformer.fit_transform(X_test[categorical_cols])
—
X_test_df = pd.DataFrame(label_X_test, columns = ['Sex','Cabin'])final_X_test = pd.concat([impute_X_test, X_test_df], axis = 1)final_X_test
—
pipe.predict(final_X_test)
错误在这里最后抛出。
回答:
当你的测试数据集与你用于训练的数据集不匹配时,就会发生这种情况。假设你在包含5列的数据上训练了模型,但在预测时你给它4列或6列,或3列等,那么它就会抛出错误。另一方面,还有一种情况是,假设你给它5列,但如果预测中使用的列类型与训练时不一致,也会导致错误。