能否在朴素贝叶斯文本分类算法中加入作者信息?

我正在进行一个文本分类项目,试图为国会记录中的演讲分配主题分类。

使用国会法案项目(http://congressionalbills.org/)的主题代码,我已经标记了提及特定法案的演讲,归属于该法案的主题。我将这些作为模型的“训练集”。

我有一个“普通”的朴素贝叶斯分类器,运行得还不错,但我总觉得如果能加入演讲国会议员的信息(例如,某些成员比其他人更有可能谈论外交政策),可以提高算法的准确性。

一种可能性是用演讲者的先前演讲来替换NB分类器中的先验概率(通常定义为训练集中具有给定分类的文档的比例)。

这值得追求吗?是否有现有的方法遵循了这种逻辑?我对基于潜在 Dirichlet 分配模型的“作者-主题模型”有一点了解,但我喜欢NB模型的简单性。


回答:

无需修改任何内容,只需将这些信息添加到你的Naive Bayes中,它就会正常工作。

正如之前在评论中提到的 – 不要更改任何先验概率 – 先验概率是P(class),这与实际特征无关

只需在你的计算中添加另一个对应于作者身份的特征,例如“author:AUTHOR”,并像往常一样训练朴素贝叶斯,即计算每个classAUTHORP(class|author:AUTHOR),并在后续的分类过程中使用它。如果你当前的表示是词袋模型,只需添加一个形式为“author:AUTHOR”的“人造”词即可。

另一种选择是为每个作者训练独立的分类器,这将捕捉到特定于个人的演讲类型,例如 – 一个人只有在谈论“自然”时才使用很多“环境”这个词,而另一个人只是喜欢在每一次演讲中都加上这个词,“哦,在我们当地的环境中…”。独立的NB将捕捉到这些现象。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注