我想实现一个大约有150个类别的分类器(可能用Java编写),主要用于推文(所以是非常小的文档)。一些类别的领域非常相似,例如“公司”、“竞争”、“消费者”、“国际法”、“国际组织”、“国际政治和政府”。当需要如此高的分辨率时,哪种算法/方法最佳?我已经尝试过朴素贝叶斯(显然),但到目前为止表现得并不好(虽然这可能只是由于训练数据的质量问题)。社区的意见将非常受欢迎!
谢谢,
Mark
回答:
或许值得考虑构建一个由(可能很多)层次的子分类器组成的层次分类器(即,为你的文档标签建立一个分类体系)。
单一分类器
单一分类器可以输出多个可能的类别标签中的任何一个。
层次分类器
层次分类器将相关的类别标签分组,并进行额外的分类层,直到到达叶节点(或直到置信度低于某个阈值)。
直觉
直觉上,当类别数量较少时,分类器学习区分特征会更容易。
例如,层次分类器可能更容易学习到player
是一个指示体育的好特征,而单一分类器如果player
只在一种类别(篮球)中出现而在另一种类别(冰球)中未出现时,会更难区分。