我正在进行一个无监督机器学习的客户细分项目,原始特征超过300个,目前正处于数据清理阶段。
数据有特别的两级结构:一级是粗略数据,另一级是精细数据。例如如下所示:
-
家庭:粗略分类:1,2,3表示家庭,精细数据:1表示年轻家庭,2表示单亲家庭。
-
收入:粗略:1,2,3表示1-100000,精细:1表示1-3000,2表示3001-6000,3表示6000-10000
有没有什么标准可以用来决定是否保留两级数据,还是只保留一级数据?
供参考:数据清理后,我将使用PCA和KMeans进行细分。
回答:
由于精细分类的列包含了粗略分类列的所有信息,你可以直接删除粗略分类列,以避免特征间的相关性。
然而,最终还是要看你的模型是否会受到相关特征的影响,以及它是否有能力隐式地进行到粗略级别的聚合(例如,决策树可以做到这一点)。