尽管我查阅了许多相关问题，但我仍然不明白为什么某些算法容易受到特征缩放的影响，而其他算法则不受影响。

到目前为止，我发现SVM和K-means算法容易受到特征缩放的影响，而线性回归和决策树则不受影响。能否有人详细解释一下这是为什么？可以从一般情况或针对这四个算法来解释。

作为一个初学者，请用通俗易懂的语言解释这个问题。

回答：

我能想到的一个原因是，SVM和K-means，至少在基本配置下，使用L2距离度量。例如，如果你将delta-x或delta-y翻倍，两个点之间的L1或L2距离度量会给出不同的结果。

对于线性回归，你通过有效地在测量前转换坐标系来拟合一个线性变换以最佳描述数据。由于最优模型在数据的任何坐标系下都是相同的，几乎可以肯定，你的结果将对任何线性变换（包括特征缩放）保持不变。

对于决策树，你通常寻找类似x < N的规则，唯一重要的细节是多少项目通过或未通过给定的阈值测试——你将这些数据输入到你的熵函数中。因为这种规则格式不依赖于维度尺度，由于没有连续的距离度量，我们再次具有不变性。

每个算法的原因略有不同，但我希望这对你有帮助。