在我的SVM中,我使用tf-idf对文档进行特征提取。这些tf-idf是在所有训练文档上计算的。
现在当我得到一个需要分类的测试文档时,我如何为它生成向量?
我在计算tf-idf之前进行了词干提取。我也可以对测试文档进行同样的处理。我有训练文档的词频统计(count_of_words)。
在计算测试文档的tf-idf时,我应该增加训练文档词频统计中已有的词的计数,还是直接使用这些统计数据?
回答:
以与训练时相同的方式计算它们,但要使用基于训练文档的idf和来自测试文档的tf。如果有许多新文档进来,只需不时更新训练数据并重新训练你的模型即可。