我使用以下GridSearchCV训练了一组线性回归模型
MAX_COLUMNS=list(range(2, len(house_df.columns)))X = house_df.drop(columns=['SalePrice'])y = house_df.loc[:, 'SalePrice']column_list = MAX_COLUMNS# 对目标变量进行Box-Cox变换reg_strategy = TransformedTargetRegressor()bcox_transformer = PowerTransformer(method='box-cox')model_pipeline = Pipeline([("std_scaler", StandardScaler()), ('feature_selector', SelectKBest()), ('regress', reg_strategy)])parameter_grid = [{'feature_selector__k' : column_list, 'feature_selector__score_func' : [f_regression, mutual_info_regression], 'regress__regressor' : [LinearRegression()], 'regress__regressor__fit_intercept' : [True], 'regress__transformer' : [None, bcox_transformer]}]score_types = {'MSE' : 'neg_mean_squared_error', 'r2' : 'r2'}gs = GridSearchCV(estimator=model_pipeline, param_grid=parameter_grid, scoring=score_types, refit='MSE', cv=5, n_jobs=5, verbose=1)gs.fit(X, y)PATH = './datasets/processed_data/'gridsearch_result_filename = 'pfY_np10_nt2_rfS_ct0_8_st1_orY_ccY_LR1_GS.pkl'full_path = PATH + gridsearch_result_filenamewith open(full_path, 'wb') as file: pickle.dump(gs, file)
然后我加载了训练好的GridSearch,并可以使用最佳估计器进行预测,如下所示:
with open(MODEL_PATH, 'rb') as file: gs_results = pickle.load(file)predictions = gs_results.predict(test_df)
我遇到的问题是,由于在GridSearch过程中应用了Box-Cox变换,所以我的所有预测都在Box-Cox变换后的分布域中(数值很大)。
我需要对我的预测使用PowerTransformer的inverse_transform()方法,但我不确定如何访问它。
我可以像这样获取最佳估计器的整个管道
gs_results.best_estimator_
然后我可以像这样访问管道中的TransformedTargetRegressor:
更进一步,我们可以像这样访问TransformedTargetRegressor中的PowerTransformer:
到达这里后,我天真地以为我已经到达了我需要的地方,只需使用PowerTransformer的inverse_transform方法就可以将预测转换回原始单位。然而,令我失望的是,抛出了一个错误:
错误似乎很明确,告诉我我不能使用inverse_transform方法,因为PowerTransformer尚未拟合。
这让我很困惑。说PowerTransformer尚未拟合似乎没有道理,因为显然它在GridSearch过程中已经被拟合了。
这让我觉得我只是错误地访问了PowerTransformer,这就是我目前的问题。
基于上面的设置,有人知道如何正确地对我的预测进行逆变换,使它们回到原始单位而不是Box-Cox分布单位吗?
我已经为此绞尽脑汁,并且到处寻找类似的提问。非常感谢你们的帮助!
-Braden
回答:
就像这里一样,属性transformer
是未拟合的初始化属性;你需要拟合后的transformer_
属性。
然而,我不确定为什么predict
不已经做了你想要的;文档中关于TransformedTargetRegressor.predict
的描述是
使用基础回归器进行预测,并应用逆变换。
回归器用于预测,并在返回预测之前应用
inverse_func
或inverse_transform
。