我有一个使用10折交叉验证的算法。在训练集中,我使用其中一个折叠来验证训练模型,然后再将学习到的模型应用于保留用于测试的折叠上。
我想创建一个学习曲线,这意味着我需要改变训练集的大小。这是否意味着我也要随之改变验证集的大小?这是否意味着我还需要改变测试集的大小(即从训练和验证折叠中分离出来的折叠)?
回答:
10折交叉验证的工作原理是将标记数据的训练集分成10个大小相等的子集。将9个子集合并成新的训练集,剩下的1个子集用于验证/测试,即模型在原始训练集的90%上进行训练,并在10%上进行测试。
这个过程会进行10次(即折叠),每次迭代都会使用不同的子集进行测试。每一次迭代都会对测试性能进行测量,完成所有迭代后,计算平均值。
在这个过程中,没有所谓的“训练折叠”或“测试折叠”,折叠只是过程的一个迭代。在整个过程中也没有保留任何子集,所有子集都在每次迭代中被使用。
要创建你提到的学习曲线,你只需改变原始训练集的大小,并让10折交叉验证过程按原样运行即可。原始训练集中记录的数量是你衡量训练集大小的指标,性能则是完成交叉验证后给出的平均值。