假设一个数据集包含像长度和宽度这样的列，这些列可以是浮点数，同时还可能包含一些二元元素（是/否）或离散数字（类别转换成的数字）。直接将这些数据作为特征使用，而不必担心它们的格式（或者更确切地说，是特征的性质），这样做是否明智？在进行归一化时，我们可以像处理连续数字那样处理离散数字吗？我在处理多种格式的数据时感到非常困惑…..

回答：

1. 是的，你可以对离散值进行归一化。但这对学习过程通常不会有实际效果 – 如果你是在进行某种形式的相似性测量，归一化是必要的，而对于因子变量则不是这种情况。有一些特殊情况，如神经网络，对输入/输出的规模和权重的大小非常敏感（参见“消失/爆炸梯度”主题）。此外，如果你对数据进行聚类，归一化也有一定的意义。聚类使用某种距离度量，因此最好将所有特征调整到相同的尺度上。
2. 对于分类数据，没有什么特别之处，只是有些学习方法特别擅长使用分类特征，有些则擅长使用实值特征，还有一些在这两方面都表现不错。

对于混合了分类和实值特征的数据，我的首选方法是使用基于树的方法（如随机森林或梯度提升机），其次是人工神经网络（ANNs）。

处理因子（分类变量）的一个极佳方法是将它们转换为一组布尔变量。例如，如果你有一个包含五个级别（1,2,3,4和5）的因子，一个好的做法是将其转换为5个特征，每个特征在代表一个级别的列中标记为1。