我们可以为训练和测试分别使用不同的数据集吗?我正在进行一个项目,旨在挑选有效的测试用例。作为这个项目的一部分,我分析了错误数据库,并根据引发错误的触发条件得出了一个模型。因此,这个错误数据库构成了我的训练集。我编写的测试用例是我的测试数据,我需要将这些测试数据提供给模型,以判断测试用例是否有效。所以在这种情况下,不是将数据集分割成训练和测试数据,我需要有两个不同的数据集(来自错误数据库的测试数据和手动生成的训练数据)。这是机器学习中可以实现的吗?请告诉我。
回答:
是的,训练数据集和测试数据集可以是分开的文件。在现实世界的案例中,测试数据通常是一些单独的未见数据集。
需要遵循的主要原则是,在训练模型时,必须保留一个单独的数据集(保留集)用于测试。这些数据可以分别在不同的文件、数据库中提供,甚至可以使用分割来生成。这样做是为了避免数据泄漏(当测试数据以某种方式用于训练模型时)。