我试图使用当前和已经流失的客户数据库来预测客户流失。目前为止,我已经
- 获取了包含当前客户和已经流失客户的完整客户数据库,并包括客户服务变量等,用于预测。
- 将数据集随机按70/30的比例分为训练集和测试集
- 使用R语言,我训练了一个随机森林模型来进行预测,并使用混淆矩阵与实际状态进行比较。
- 我使用测试数据运行了该模型,以检查识别流失客户的准确性
现在我想对我们所有的当前客户进行预测,看哪些客户会流失。我是否做错了,因为我需要预测的许多当前客户已经被模型看到过,因为他们出现在训练集中?
我是否应该使用不包含在我需要进行预测的数据集中的训练集和测试集?
回答:
据我对您问题的理解,我觉得您想知道是否正确地使用了训练集和测试集中重叠的例子。首先,您需要明白,训练集和测试集必须保持分离。由于您的模型参数是基于训练集计算的,对于测试集中相似的例子,模型会给出正确的预测,因此,对于那些训练集和测试集共有的例子,您的准确性肯定会受到积极的影响,但这并不是正确的做法。您的测试集应始终包含之前未见的例子,以便正确评估算法的性能。如果您想要测试模型的当前客户已经在训练集中,您希望在测试过程中将它们排除在外。我建议您根据某个唯一标识符(如果存在)如客户ID,在训练集客户和当前客户集合之间进行检查,并将共同的客户排除在新的未见测试样本之外。