交叉验证在分类中的特征选择

我在观看著名的《统计学习导论》课程中的一个视频,讲的是在特征选择中如何进行交叉验证。

教授们说,我们应该在进行任何模型拟合和特征选择之前就形成折叠。他们还说,在每次分割中,我们可能会得到一组不同的“最佳预测变量”。

我的问题是,如果真是这样,我们如何确定未来使用的整体最佳预测变量。换句话说,如果我有一组新的数据,我如何知道应该使用哪些预测变量?


回答:

在未来使用时使用相同的特征集。是的,选择的特征可能会随时间变化,这是一个权衡。但通常情况下,人们会使用之前选择的特征。但重要的是,用于特征选择的初始数据应该足够好,样本数量充足,以便它几乎能反映问题的所有情况。 如果是这样的话,通常情况下,对于新的测试数据,选择的特征也不会有太大的变化。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注