我正在尝试预测Twitter用户发布的下一篇推文的情感。目前我有以下步骤(步骤1和2已经用Python实现):
-
学习如何将推文分类为积极(1)、中性(0)或消极(-1)。我使用朴素贝叶斯分类器来做这件事,效果相当不错。
-
对用户已有的推文进行分类。这会得到一系列数字,如下所示:[0, 1, -1, -1, -1, 0, 1, 1, ..]。还有关于发布时间的信息。
是否有可能预测下一篇推文的情感(1、0或-1)?
我可以使用什么算法来实现这一点?
我还不清楚这个如何运作,但隐藏马尔可夫模型是否合适,或者某种回归方法是否可行?
回答:
我认为思考这个问题的一个吸引人的方式是考虑情感的先验概率和可能性。朴素贝叶斯是一个可能性模型(假设推文是积极的,那么看到这个确切推文的概率是多少?)。你问的是,基于到目前为止观察到的情感序列,下一篇推文是积极的先验概率是多少。有几种方法可以做到这一点:
- 最简单的方法是,用户发布的推文中积极推文的比例就是下一篇推文是积极的概率。
- 然而,这忽略了时间的近期性。你可以构建一个基于转换的模型:从每个可能的前一个状态,有下一篇推文是积极、消极或中性的概率。因此,你有一个3×3的转换矩阵,假设上一篇推文是积极的,那么下一篇推文也是积极的条件概率就是转换概率pos->pos。这可以通过计数来估计,是一个马尔可夫过程(基本上,前一个状态是唯一重要的)。
- 你可以使这些转换模型变得越来越复杂,例如,‘当前状态’可以是最后两篇或最后n篇推文的情感,这意味着你可以得到更具体的预测,但代价是模型中参数的增加。你可以通过平滑方案、参数绑定等方法来克服这个问题。
最后一点,我认为@Anony-Mousse关于先验概率是弱证据的观点是正确的:实际上,无论你的先验概率告诉你什么,我认为这都会被可能性函数(即实际推文的内容)所主导。如果你也能看到推文本身,考虑使用@Neil McGuigan建议的条件随机场(CRF)。