我有一组书籍对象,类Book定义如下:
Class Book{String title;ArrayList<tags> taglist;}
其中title是书籍的标题,例如:《Javascript for dummies》。
而taglist是一组标签,例如:Javascript, jquery, “web dev”, ..
如我所说,我有一组关于不同主题的书籍:IT、生物学、历史等。每本书都有一个标题和一组描述它的标签。
我需要自动将这些书籍按主题分类到不同的集合中,例如:
IT书籍:
- 《Java for dummies》
- 《Javascript for dummies》
- 《Learn flash in 30 days》
- 《C++ programming》
历史书籍:
- 《World wars》
- 《America in 1960》
- 《Martin luther king’s life》
生物学书籍:
- ….
你们知道针对这种问题的分类算法/方法吗?
一种解决方案是使用外部API来定义文本的类别,但问题在于书籍有多种语言:法语、西班牙语、英语等。
回答:
这看起来是一个相当简单的基于关键词的分类任务。由于您使用的是Java,值得考虑的优秀软件包有Classifier4J、Weka或Lucene Mahout。
Classifier4J
Classifier4J支持使用朴素贝叶斯和向量空间模型进行分类。
如这个关于训练和使用其朴素贝叶斯分类器的源代码片段所示,该软件包使用起来相当简单。它还以宽松的Apache软件许可证分发。
Weka
Weka是一个非常流行的数据挖掘工具。使用它的一个优势是您可以轻松地尝试使用众多不同的机器学习模型来将书籍分类到主题中,包括朴素贝叶斯、决策树、支持向量机、k-最近邻、逻辑回归,甚至是基于规则集的学习器。
您可以在这里找到使用Weka进行文本分类的教程。
然而,Weka是以GPL许可证分发的。您不能将其用于您想要分发的闭源软件。但您仍然可以用它来支持一个网络服务。
Lucene Mahout
Mahout设计用于对非常大的数据集进行机器学习。它建立在Apache Hadoop之上,并支持使用朴素贝叶斯进行监督分类。
您可以在这里找到使用Mahout进行文本分类的教程。
与Classifier4J一样,Mahout以宽松的Apache软件许可证分发。