我在学习预测建模,了解到逻辑回归和KNN都可以在监督学习中用于分类。那么,在哪些情况下我们应该使用其中一种方法?更具体地说,在模型构建中它们的应用有何不同?
谢谢你。
回答:
基本上,KNN假设彼此靠近的点必须具有相同的标签,它受维度灾难的影响,因此我建议你只在维度低且样本数量少的数据集上使用它(因为它非常慢)。另一方面,逻辑回归适合一个超平面来分隔指数族的两个概率分布,它在高维数据集和大量训练点上表现很好,但如果你的数据不是线性可分的,该算法将完全不起作用。
我在学习预测建模,了解到逻辑回归和KNN都可以在监督学习中用于分类。那么,在哪些情况下我们应该使用其中一种方法?更具体地说,在模型构建中它们的应用有何不同?
谢谢你。
回答:
基本上,KNN假设彼此靠近的点必须具有相同的标签,它受维度灾难的影响,因此我建议你只在维度低且样本数量少的数据集上使用它(因为它非常慢)。另一方面,逻辑回归适合一个超平面来分隔指数族的两个概率分布,它在高维数据集和大量训练点上表现很好,但如果你的数据不是线性可分的,该算法将完全不起作用。