有人知道好的开源文本分类模型吗?我知道斯坦福分类器、Weka、Mallet等,但它们都需要训练。
我需要将新闻文章分类到体育/政治/健康/游戏等类别中。有没有预训练的模型?
Alchemy、OpenCalais等不是选项。我需要开源工具(最好是Java的)。
回答:
使用预训练模型的前提是用于训练的语料库与你要分类的文档来自完全相同的领域。通常情况下,这不会给你想要的结果,因为你没有原始语料库。机器学习不是静态的,当你训练一个分类器时,需要在有新特征/信息可用时更新模型。
以你想要的在体育/政治/健康/游戏等领域中分类新闻文章为例。
首先是哪种语言?我们只讨论英语吗?原始语料库是如何标记的?最大的未知是“等”类别。
训练你自己的分类器真的非常简单。如果你要分类文本,MALLET是最好的选择。你可以在不到10分钟内启动并运行。你可以在不到1小时的时间内将MALLET添加到你自己的应用程序中。
如果你想对新闻文章进行分类,有很多开源语料库可以作为训练的起点。我会从Reuters-21578或RCV-1开始。