背景：
我正在使用scikit-learn处理一个多类分类问题。我的数据集包含40个测量对象（MO）中每个对象的112个特征向量。总共有4480个特征向量，平均分为4个类别，共533个特征。（更多关于数据集的信息在这里）
方法：
在将数据集分成训练集（34个MO）和测试集（6个MO）并通过PCA等方法减少特征数量后，我使用KFold对不同模型进行超参数调优，并使用gridsearchcv进行比较。
问题：
- 在评估时，是否有必要将数据分为训练集和测试集？我教授说不需要，交叉验证本身就已经解决了这个问题。这与我对机器学习最佳实践的基本理解以及scikit-learn的交叉验证文档相矛盾。
- 在预测/评估时，是否需要考虑测试集中每个MO的特征空间？如果需要，该如何做？例如，是在测试数据上进行类似交叉验证的预测，还是直接对整个测试数据进行预测？
回答：
@4.Pi.n的评论解决了我的问题：
- 正如你的教授所说，
- 最常见的方法是存储k个模型，然后平均它们的预测，例如
y_pred = (pred_1 + pred_2 + ... + pred_k) / k，或者你可以使用sklearn.model_selection.cross_val_predict
