我遇到了以下问题:我试图对大量文本文档进行分类。
共有20个类别:1个正常类,19个异常类。当我使用朴素贝叶斯分类时,得到的结果是:对于19个类别的分类效果很好,但对于“正常”类,我得到了许多错误分类:几乎所有“正常”类别的案例都被分类为其他(非正常)类别。
我的问题如下:
- 我应该如何选择“正常”类的训练集?(现在,我只是将带有“正常”类别的文本集拟合到分类器中,比例为1/20)。
- 分类器是否可以这样指定:如果属于某个类别的概率低于某个阈值,那么分类器必须为该样本设置类别(例如正常类)?
回答:
我不确定是否完全了解情况,但看起来你实际上只有两个类别:“正常”和“异常”,它们的数量和先验概率不平衡。
针对你的第一个问题,在这种情况下,我会尝试对“正常”类进行过采样以进行训练(多次传递相同的“正常”实例以“伪造”更大的数量),看看是否能提高性能。
我不太理解你的第二个问题。