我在使用管道（pipeline）和网格搜索（GridSearchCV）来自动选择特征。由于数据集较小，我将GridSearchCV中的’cv’参数设置为StratifiedShuffleSplit。代码如下所示：

selection = SelectKBest()clf = LinearSVC()pipeline = Pipeline([("select", selection), ("classify", clf)])cv = StratifiedShuffleSplit(n_splits=50)grid_search = GridSearchCV(pipeline, param_grid=param_grid, cv = cv)grid_search.fit(X, y)

似乎SelectKBest作用于每个分割的训练数据，而不是整个数据集（后者是我想要的），因为如果我将’select’和’classify’分开，结果就会不同，而StratifiedShuffleSplit肯定只会作用于分类器。

在这种情况下，正确使用管道和GridSearchCV的方法是什么？非常感谢！

回答：

交叉验证整个管道（即仅在每个分割的训练部分运行SelectKBest）是正确的做法。否则，模型将被允许查看测试部分——这意味着质量估计将变得不准确。使用这些不公平的质量估计找到的最佳超参数在真正的未见数据上可能表现更差。

在预测时，你不会在（训练数据集 + 待预测的样本）上重新运行SelectKBest，然后重新训练分类器，为什么在评估时要这样做呢？