“训练集-测试集分割确实存在风险——如果我们进行的分割不是随机的怎么办？如果我们的数据的一个子集只包含来自某个州的人、收入水平为某一特定层次的员工但不包括其他收入水平的人、只有女性或只有某一特定年龄段的人呢？（想象一下文件是按照这些标准之一排序的）。这将导致过拟合，尽管我们试图避免它！这就是交叉验证的用武之地。” 上述内容是大多数博客中提到的，我不太理解这些。我认为缺点不是过拟合，而是欠拟合。当我们分割数据时，假设州A和州B成为训练数据集，并试图预测州C，而州C与训练数据完全不同，这将导致欠拟合。能有人解释一下为什么大多数博客声称‘测试-分割’会导致过拟合吗？

回答：

更准确的说法应该是讨论选择偏差，这是你的问题所描述的。

选择偏差实际上并不能直接与过拟合联系起来，而是与拟合一个有偏的数据集有关，因此模型将无法正确泛化/预测。

换句话说，无论是对“拟合”还是“过拟合”应用于一个有偏的训练集，那都是错误的。

“过”字前缀的语义压力就在于此。它暗示了偏差的存在。

想象一下，如果没有选择偏差。在这种情况下，即使是对一个健康的数据集进行过拟合，根据过拟合的定义，你仍然会使模型偏向于你的训练集。

在这里，你的初始训练集已经是有偏的。所以任何拟合，即使是“正确拟合”，也会是有偏的，就像在过拟合中发生的那样。