我正在开发一个工具,用于计算文本评论是假的(垃圾信息)还是真实的概率。
我有一组标注过的评论数据集,这些评论被标记为垃圾信息或非垃圾信息。我使用了SVM来构建分类器,但它只能对输入文档进行垃圾信息或非垃圾信息的分类。然而,我想要一个工具,能够输出一个介于0和1之间的数字,代表文档是垃圾信息的概率。请问有人能指导我正确的方向吗?
回答:
如果你想要一个连续值的得分(而不是明确的概率),你可以直接使用SVM中到超平面的距离。这是一个标准的信心度量,你可以将其视为点在类别中的“深入”程度。
如果你想将分类作为更广泛的概率模型的一部分,需要一个具有真正概率解释的东西,你可以使用一些将SVM得分转换为概率的方法,但这些方法有些牵强附会,理论基础并不完善。相反,我建议你看看逻辑回归分类器,有时也称为最大熵分类器,这是一个健壮的概率替代方案。它具有像SVM这样的判别模型的优点,但具有自然且内在的概率基础。