我在测试不同的算法时，如逻辑回归、高斯朴素贝叶斯、随机森林和多层感知器，通过简单地减去均值并除以标准差来对原始数据进行标准化。虽然并不是所有算法都需要这样做，但我只是为了保持一致性。然而，特征的相关系数矩阵在标准化前后会发生变化。在决定选择哪些特征以避免输入数据的冗余时，应该考虑标准化前的相关系数矩阵，还是仅考虑标准化后的相关系数矩阵，因为这是直接输入到机器学习方法中的数据？

回答：

我认为在“正确”的标准化后，相关系数矩阵应该保持不变。

演示：

In [107]: df = pd.DataFrame(np.random.rand(6,6)) * 100

让我们保存标准化前的皮尔逊相关系数矩阵

In [108]: corr1 = df.corr()

使用 sklearn.preprocessing.StandardScaler 进行标准化：

In [109]: from sklearn.preprocessing import StandardScalerIn [110]: scale = StandardScaler()In [111]: r = scale.fit_transform(df)

保存标准化后的皮尔逊相关系数矩阵

In [112]: corr2 = pd.DataFrame(r).corr()

比较保存的相关系数矩阵：

In [114]: np.allclose(corr1, corr2)Out[114]: True