我在观看著名的《统计学习导论》课程中的一个视频,讲的是在特征选择中如何进行交叉验证。
教授们说,我们应该在进行任何模型拟合和特征选择之前就形成折叠。他们还说,在每次分割中,我们可能会得到一组不同的“最佳预测变量”。
我的问题是,如果真是这样,我们如何确定未来使用的整体最佳预测变量。换句话说,如果我有一组新的数据,我如何知道应该使用哪些预测变量?
回答:
在未来使用时使用相同的特征集。是的,选择的特征可能会随时间变化,这是一个权衡。但通常情况下,人们会使用之前选择的特征。但重要的是,用于特征选择的初始数据应该足够好,样本数量充足,以便它几乎能反映问题的所有情况。 如果是这样的话,通常情况下,对于新的测试数据,选择的特征也不会有太大的变化。