监督潜在 Dirichlet 分配用于文档分类?

我有一组已经由人工分类的文档,分属于不同的组别。

有没有一种改进的 LDA 版本,我可以用它来训练模型,然后用它来对未知文档进行分类?


回答:

值得注意的是,作为分类器的 LDA 效果会比较弱,因为它是一个生成模型,而分类是一个判别问题。有一个称为监督 LDA的变体,它使用更具判别性的标准来形成主题(你可以在不同的地方找到这个的源代码),还有一个论文提出了最大间隔的公式,我不知道其源代码的状态。除非你确定这就是你想要的,否则我建议避免使用标记 LDA 公式,因为它对分类问题中主题与类别之间的对应关系做出了强烈的假设。

然而,值得指出的是,这些方法都没有直接使用主题模型来进行分类。相反,它们处理文档,不是使用基于词的特征,而是使用主题的后验分布(文档推断结果的向量)作为其特征表示,然后将其输入到分类器中,通常是线性 SVM。这样,你可以获得基于主题模型的降维处理,然后是一个强大的判别分类器,这可能是你所追求的。这种流程在使用流行工具包的大多数语言中都是可用的。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注