大家好。我有一个大型数据集(6万个样本,50个特征)。其中一个对我非常重要的特征是职业名称。我希望对这些职业名称进行编码,以便适应一些模型,比如线性回归或支持向量机(SVC)。然而,我不知道该如何处理这些数据。
我尝试使用pandas的虚拟变量和scikit-learn的One-hot Encoding
,但这会生成许多在测试集中可能不会遇到的特征。我也尝试使用scikit-learn的LabelEncoder()
,但在编码变量时遇到了错误,例如float() > str() error
。
大家有什么建议来处理这些分类特征吗?谢谢大家。
回答:
有几种方法可以达到你想要的效果。我个人觉得HashingVectorizer
非常robust,特别是如果你有很多(可能还很稀疏)的特征,你可以尝试一下。另一个选择是DictVectorizer
。
你可以查看这里的示例 http://scikit-learn.org/stable/modules/feature_extraction.html 和 http://scikit-learn.org/stable/auto_examples/text/document_classification_20newsgroups.html。你可以轻松地修改它们来达到你的目的。