我在寻找一种算法,用于分类不同格式的10位(主要是)整数键。训练数据集看起来像这样:
+------------+----------------+| key | classification |+------------+----------------+| 1000012355 | US || 1000045331 | US || 0000123101 | DE || 0003453202 | DE || 000K213411 | ES || 000K243221 | ES |+------------+----------------+
这些键来自不同的系统,并且以不同的方式生成。有一个庞大的训练数据集可用。虽然我假设这些键的一部分是随机的,但其结构并非如此。
任何帮助都将不胜感激。
回答:
在构建模型、训练和预测之前,最好先分析问题。你假设这些键的一部分是随机的,但其结构并非如此。你需要探索数据集来证明你的假设,并根据数据的分布来决定使用什么模型。
- 将字符串转换为向量,将字符串中的每个字符视为分类类型特征,使用独热编码,你将得到一个高维的稀疏矩阵。完成这一步后,你可以对训练数据进行计算、分析、建模等操作。
- 然后你需要分析数据。一个简单而有效的方法是可视化分析。对于高维数据,你可以使用安德鲁斯曲线、平行坐标等。你也可以使用降维方法,如PCA或ICA,然后可视化低维数据。
- 根据你的可视化结果,你可以选择模型。如果根据特征分布,不同类别的数据容易区分,你可以使用几乎任何分类算法,如LR、SVM,甚至聚类。如果是多类问题,你可以使用OVO或OVR。如果可视化效果不佳,类别之间的区分不明显,你可能需要进行一些特征工程,或者尝试树模型和集成学习方法。