如果一个数据集包含多个格式不同的列,该如何处理这种数据?

假设一个数据集包含像长度和宽度这样的列,这些列可以是浮点数,同时还可能包含一些二元元素(是/否)或离散数字(类别转换成的数字)。直接将这些数据作为特征使用,而不必担心它们的格式(或者更确切地说,是特征的性质),这样做是否明智?在进行归一化时,我们可以像处理连续数字那样处理离散数字吗?我在处理多种格式的数据时感到非常困惑…..


回答:

  1. 是的,你可以对离散值进行归一化。但这对学习过程通常不会有实际效果 – 如果你是在进行某种形式的相似性测量,归一化是必要的,而对于因子变量则不是这种情况。有一些特殊情况,如神经网络,对输入/输出的规模和权重的大小非常敏感(参见“消失/爆炸梯度”主题)。此外,如果你对数据进行聚类,归一化也有一定的意义。聚类使用某种距离度量,因此最好将所有特征调整到相同的尺度上。
  2. 对于分类数据,没有什么特别之处,只是有些学习方法特别擅长使用分类特征,有些则擅长使用实值特征,还有一些在这两方面都表现不错。

对于混合了分类和实值特征的数据,我的首选方法是使用基于树的方法(如随机森林或梯度提升机),其次是人工神经网络(ANNs)。

处理因子(分类变量)的一个极佳方法是将它们转换为一组布尔变量。例如,如果你有一个包含五个级别(1,2,3,4和5)的因子,一个好的做法是将其转换为5个特征,每个特征在代表一个级别的列中标记为1。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注