在进行K折交叉验证时,每个折叠都有不同的验证集和略有变化的学习集。假设你从第一个折叠进展到第二个折叠。你在第一个折叠中学到的东西是如何传递到第二个折叠迭代中的?目前看起来你只是计算了准确率,而模型的学习结果被丢弃了,没有保留。
我错过了什么?如果这样的模型被保留了,它是如何保留的?对于DQN和KNN的方法是否有不同?
回答:
K折交叉验证不会在每次迭代中重新训练模型。相反,它会训练和评估K个不同的独立(可以并行化)的模型,使用数据集的不同折叠,但使用相同的超参数。这样做的目的不是为了得到更准确的模型,而是通过计算聚合验证分数来获得更准确的(从统计学角度而言)验证(即:你可以估计模型准确率的均值和标准偏差)。
然后,你可以保留其中一个模型,并使用聚合估计来评估其指标(而不是使用该模型在特定折叠中计算的指标),或者使用完整的数据集从头开始训练一个新模型。在后一种情况下,你对模型指标的最佳估计仍然是之前的聚合指标,但可以使用一个新的未使用的测试集来估计新的指标。那么,为什么要这样做呢?这是因为你通常会将交叉验证与超参数调整结合使用。因此,每次调整超参数时,你只需检查交叉验证的聚合指标估计。但是,当你完成模型调整后,你将使用未见过的测试集计算最终的指标。