我在使用Swift(即使我的问题与语言无关)和Python来测试我的机器学习逻辑。我有以下训练数据:
("add a new balloon", "add-balloon")("add a balloon", "add-balloon")("get last balloon", "get-balloon")("update balloon color to red", "update-balloon")
当我尝试使用朴素贝叶斯来分类一个新的句子时,例如:
classify("could you add a new balloon") // 返回 add-balloonclassify("could you update the balloon color") // 返回 add-balloonclassify("update the balloon color") // 返回 add-balloon
我的数据集中关于添加气球的观察数据很多(大约50个),但关于更新或获取的观察数据较少(大约5-6个)。朴素贝叶斯对训练样本的数量敏感吗?我不明白为什么即使给定在训练中见过的句子,分类效果仍然不佳。
回答:
朴素贝叶斯对类先验(类别示例的分布)敏感。因此,如果你有更多的add-balloon
类别而不是其他类别,它会倾向于偏向这个类别。通常这很有帮助,因为假设你没有任何后验信息,你最好的选择是尝试最可能的类别。
然而,如果你的分布严重倾斜,数据集不大,文档很短或缺乏非常有信息量的词(或包含许多模糊的词),这可能会导致你所报告的这种不理想的结果。