我有一大堆大约500字的短篇故事，我想将它们分类到比如说20个类别中：

• 娱乐
• 食品
• 音乐
• 等等

我可以手动分类一些，但最终我想通过机器学习来猜测这些类别。最佳的方法是什么？有没有我应该使用的标准机器学习方法？我认为决策树对于文本数据可能不太适用…

回答：

一个朴素贝叶斯分类器很可能适合你。方法如下：

• 确定若干类别，并获取一组训练数据集，包含（文档，类别）对。
• 你的文档数据向量将类似于一个词袋。例如，取除“the”、“and”等词之外的最常见的100个词。每个词在你的数据向量中占有一个固定的位置（例如，“food”在第5位）。特征向量则是一个布尔值数组，每个值表示对应文档中是否出现该词。

训练：

• 对于你的训练集，计算每个特征和每个类别的概率：p(C) = 类别C的文档数量 / 总文档数量。
• 计算某个类别中某个特征的概率：p(F|C) = 具有给定特征的类别文档数量（= 文本中出现“food”词）/ 给定类别的文档数量。

决策：

• 对于一个未分类的文档，它属于类别C的概率与P(C|F1, …, F500)成正比，其中P(C|F1, …, F500) = P(C) * P(F1|C) * P(F2|C) * … * P(F500|C)。选择使这个项最大化的C。
• 由于乘法在数值上较为困难，你可以使用对数的和来代替，这在相同的C处达到最大值：log P(C|F1, …, F500) = log P(C) + log P(F1|C) + log P(F2|C) + … + log P(F500|C)。