在机器学习中，我们使用验证集来调整超参数。但我对验证集的来源感到困惑。它是训练集的一部分吗？这意味着模型之前已经见过这些数据。还是像测试集一样，即模型从未见过的数据？我真的非常困惑..

回答：

你应该将训练数据分成两部分，一部分用于训练，另一部分用于验证，正如你提到的。

你可以在第一部分数据上训练模型，同时根据验证集上的得分来设置超参数。通常使用80%-20%的分割比例，其他比例也可能合适，这取决于你拥有的数据量。

为了对你的算法进行最终评估，请使用另一个独立的测试集，这个测试集既不包含在训练中，也不用于超参数搜索。