假设我想确定我会在 SO 上赞同某个问题的概率，并且仅基于哪些标签出现或不出现。
再假设我拥有大量关于我过去赞同或不赞同的问题的数据。
是否存在一种机器学习算法，可以获取这些历史数据并对其进行训练，然后能够预测我未来对问题的赞同概率？请注意，必须是概率，而不仅仅是一些任意的分数。
假设任何给定问题最多会有 7 个与之相关的标签，这些标签是从数万个标签的超集中抽取的。
我希望它能够在标签之间建立相当复杂的联系，而不是像贝叶斯垃圾邮件过滤器中的单词那样，每个标签仅仅以“线性”方式对最终结果做出贡献。
例如，可能是“java”这个词会增加我赞同的概率，除非它与“database”同时出现，但是“database”与“ruby”同时出现时可能会增加我赞同的概率。
哦，而且它在计算上应该是合理的（在数百万个问题上训练在一两个小时内完成）。
我应该研究哪些方法呢？
回答：
鉴于每个消息可能没有很多标签，您可以只创建“n-gram”标签并应用朴素贝叶斯。回归树也会在叶节点产生一个经验概率，使用+1表示赞同，0表示不赞同。参见 http://www.stat.cmu.edu/~cshalizi/350-2006/lecture-10.pdf 获取一些可读的讲义，以及 http://sites.google.com/site/rtranking/ 获取一个开源实现。
