我使用了distfit库来找到最适合我的数据的分布,以避免偏斜。假设我已经使用boxcox方法将数据转换为正态分布。
在此之后,我是否应该缩放我的数据,例如,使用能够很好地处理异常值的Robust Scaler?
我对是否应该同时执行这两个步骤还是只执行其中一个感到困惑。
我不确定我在数据准备阶段是否走在正确的方向上。请分享您的看法。谢谢!
回答:
在标准化后,您可能需要也可能不需要进行缩放。
答案取决于我们对这些数据做什么。例如,我们是计划拟合某个模型还是其他什么?
一个具体的例子是:
如果我们想为神经网络训练模型,那么让我们看看:
- 为了加快训练收敛速度:我们应该有均值=0和标准差=1(需要标准化)
- 为了有效的正则化,您必须使所有数据特征处于相似的尺度上。(需要缩放)
相反,如果您想拟合决策树,那么这些都不需要。
所以,这一切都归结于我们在处理数据之后要做什么。