我通过在机器学习和深度学习领域制作项目来训练自己。为此，我注册了像泰坦尼克号数据集这样的Kaggle竞赛。
当我们加载数据时，有两个数据集：训练集和测试集。目前，我只在训练集上进行分析，每次我创建一个新特征或进行一些更改时，我会在两个数据集上进行循环操作，执行相同的操作。
现在，我即将填补缺失值，并进行一些预处理操作，因此，我将使用数据的一些聚合操作，编码分类特征等等。但是我想知道，我应该使用训练集和测试集来计算均值或标记特征，还是只使用训练集呢？
因为据我所知，测试集的目的是测量模型在从未见过的数据上的表现，所以我一直认为应该只使用训练集来做出决策。
但有时这可能是“错误”的，例如，如何处理测试集中可能有训练集中没有的新类别的情况？
问题
-
在深度学习或机器学习项目中填补缺失值和进行预处理操作时，是使用训练集和测试集更好，还是只使用训练集更好？
-
即使在Kaggle竞赛中这样做更好，但在生产项目中呢？也许我们应该考虑到新数据可能有未见过的类别的情况？
回答：
1) 在训练模型时，绝对不能碰测试数据。测试集仅用于检查预测的准确性。
2) 一般来说，我们希望训练数据包含所有可能的结果（因此需要更大的数据源，Kaggle确实提供了相当大的数据集，所以你不必担心），就生产环境和未见情况而言，你倾向于改进模型，以便它能处理这些新情况。这可能涉及重新训练模型。
