假设一个数据集包含像长度和宽度这样的列,这些列可以是浮点数,同时还可能包含一些二元元素(是/否)或离散数字(类别转换成的数字)。直接将这些数据作为特征使用,而不必担心它们的格式(或者更确切地说,是特征的性质),这样做是否明智?在进行归一化时,我们可以像处理连续数字那样处理离散数字吗?我在处理多种格式的数据时感到非常困惑…..
回答:
- 是的,你可以对离散值进行归一化。但这对学习过程通常不会有实际效果 – 如果你是在进行某种形式的相似性测量,归一化是必要的,而对于因子变量则不是这种情况。有一些特殊情况,如神经网络,对输入/输出的规模和权重的大小非常敏感(参见“消失/爆炸梯度”主题)。此外,如果你对数据进行聚类,归一化也有一定的意义。聚类使用某种距离度量,因此最好将所有特征调整到相同的尺度上。
- 对于分类数据,没有什么特别之处,只是有些学习方法特别擅长使用分类特征,有些则擅长使用实值特征,还有一些在这两方面都表现不错。
对于混合了分类和实值特征的数据,我的首选方法是使用基于树的方法(如随机森林或梯度提升机),其次是人工神经网络(ANNs)。
处理因子(分类变量)的一个极佳方法是将它们转换为一组布尔变量。例如,如果你有一个包含五个级别(1,2,3,4和5)的因子,一个好的做法是将其转换为5个特征,每个特征在代表一个级别的列中标记为1。