精细文本分类 – 该使用什么算法?

我想实现一个大约有150个类别的分类器(可能用Java编写),主要用于推文(所以是非常小的文档)。一些类别的领域非常相似,例如“公司”、“竞争”、“消费者”、“国际法”、“国际组织”、“国际政治和政府”。当需要如此高的分辨率时,哪种算法/方法最佳?我已经尝试过朴素贝叶斯(显然),但到目前为止表现得并不好(虽然这可能只是由于训练数据的质量问题)。社区的意见将非常受欢迎!

谢谢,

Mark


回答:

或许值得考虑构建一个由(可能很多)层次的子分类器组成的层次分类器(即,为你的文档标签建立一个分类体系)。

单一分类器

单一分类器与多个可能的类别标签

单一分类器可以输出多个可能的类别标签中的任何一个。

层次分类器

层次分类器

层次分类器将相关的类别标签分组,并进行额外的分类层,直到到达叶节点(或直到置信度低于某个阈值)。

直觉

直觉上,当类别数量较少时,分类器学习区分特征会更容易。

例如,层次分类器可能更容易学习到player是一个指示体育的好特征,而单一分类器如果player只在一种类别(篮球)中出现而在另一种类别(冰球)中未出现时,会更难区分。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注