我正在训练一个CNN机器学习模型,用于检测和分类心律失常的不同类别。然而,我使用了测试集作为验证集,现在我的验证准确率达到了98%。我是否需要一个测试集,还是可以仅用验证准确率作为模型最终表现的指标?
回答:
一般来说,最好拥有训练集、验证集和测试集。如果你没有基于验证集对模型进行偏向性调整,可以通过验证准确率来很好地估计模型对未见过的图像的泛化能力。例如,如果你根据监控验证损失来调整学习率,你在某种程度上引入了对特定验证集的“偏见”。在这种情况下,最好使用一个独立的测试集来测试你的模型。它们的准确率可能会相似,但并非总是如此。如果你的验证集的概率分布不能代表潜在类别图像的完整概率范围,一个包含更广泛分布的独立测试集可能会产生较低的准确率结果。