X数据的两个常见机器学习预处理步骤是标准化（例如，缩放到单位方差）和分解（将特征映射到新的空间，AIUI）。

在包括训练/测试/验证集的机器学习流程中实现这些步骤的两种可能方式是：

i) 对整个训练/测试/验证X数据集进行标准化/分解，然后将其分成训练/测试集，并使用误差最低的模型对验证集进行预测。

ii) 先分成训练/测试集，然后分别对训练/测试集进行标准化/分解，并使用误差最低的模型（在标准化/分解后）对验证集进行预测。

这两种方法中是否有一种更可取，为什么？

回答：

我认为第三种选项也是有效的：

将数据分成测试/训练集，在训练集上计算标准化/分解的参数（例如，标准化的训练集的均值和方差），并将相同的参数应用于测试集。

对于标准化，这可能意味着测试集的均值不为零，方差不为单位。

通常情况下，查看测试集来转换训练集被认为是不好的做法，除了在传导学习的特殊情况下，你提前知道测试集的输入。

你的第二种选项是有风险的，因为测试集中可能存在异常值，这些异常值会严重影响标准化的参数。因此，最好在训练集上估计一组转换参数。