我有一组已经由人工分类的文档,分属于不同的组别。
有没有一种改进的 LDA 版本,我可以用它来训练模型,然后用它来对未知文档进行分类?
回答:
值得注意的是,作为分类器的 LDA 效果会比较弱,因为它是一个生成模型,而分类是一个判别问题。有一个称为监督 LDA的变体,它使用更具判别性的标准来形成主题(你可以在不同的地方找到这个的源代码),还有一个论文提出了最大间隔的公式,我不知道其源代码的状态。除非你确定这就是你想要的,否则我建议避免使用标记 LDA 公式,因为它对分类问题中主题与类别之间的对应关系做出了强烈的假设。
然而,值得指出的是,这些方法都没有直接使用主题模型来进行分类。相反,它们处理文档,不是使用基于词的特征,而是使用主题的后验分布(文档推断结果的向量)作为其特征表示,然后将其输入到分类器中,通常是线性 SVM。这样,你可以获得基于主题模型的降维处理,然后是一个强大的判别分类器,这可能是你所追求的。这种流程在使用流行工具包的大多数语言中都是可用的。