我正在实现一个管道，使用重要特征选择，然后使用相同的特征来训练我的随机森林分类器。以下是我的代码。
m = ExtraTreesClassifier(n_estimators = 10)m.fit(train_cv_x,train_cv_y)sel = SelectFromModel(m, prefit=True)X_new = sel.transform(train_cv_x)clf = RandomForestClassifier(5000)model = Pipeline([('m', m),('sel', sel),('X_new', X_new),('clf', clf),])params = {'clf__max_features': ['auto', 'sqrt', 'log2']}gs = GridSearchCV(model, params)gs.fit(train_cv_x,train_cv_y)所以X_new是通过SelectFromModel和sel.transform选择的新特征。然后我想使用这些新选择的特征来训练我的随机森林。
我遇到了以下错误：
所有中间步骤都应该是变换器并实现fit和transform, ExtraTreesClassifier ...回答：
就像追溯信息所说：管道中的每个步骤都需要有fit()和transform()方法（除了最后一个，只需要fit()）。这是因为管道在每个步骤中链接着对数据的变换。
sel.transform(train_cv_x)不是一个估计器，也不符合这一标准。
事实上，根据你想要做的，看起来你可以省略这一步。内部的('sel', sel)已经完成了这个变换——这就是它被包含在管道中的原因。
其次，ExtraTreesClassifier（你管道的第一步）也没有transform()方法。你可以在这里验证，在类文档字符串中。监督学习模型不是用来变换数据的；它们是用来在数据上拟合并基于此进行预测的。
哪些类型的类能够进行变换？
在不过多揣测你在这里想要做什么的情况下，以下方法对你有用：
- 首先使用
train_test_split分割x和y。由这个产生的测试数据集被保留用于最终测试，而GridSearchCV中的交叉验证内的训练数据集将被进一步分成更小的训练和验证集。 - 构建一个满足你的追溯信息试图告诉你的管道。
- 将该管道传递给
GridSearchCV，在X_train/y_train上.fit()该网格搜索，然后在X_test/y_test上.score()它。
大致上，这将看起来像这样：
from sklearn.model_selection import train_test_splitX_train, X_test, y_train, y_test = train_test_split( X, y, test_size=0.33, random_state=444)sel = SelectFromModel(ExtraTreesClassifier(n_estimators=10, random_state=444), threshold='mean')clf = RandomForestClassifier(n_estimators=5000, random_state=444)model = Pipeline([('sel', sel), ('clf', clf)])params = {'clf__max_features': ['auto', 'sqrt', 'log2']}gs = GridSearchCV(model, params)gs.fit(X_train, y_train)# 你的超参数优化在未见过的测试数据上泛化得如何？gs.score(X_test, y_test)进一步阅读的两个例子：
