我在对包含多句话的评论(段落)进行分类。我使用Weka中的libSVM通过词袋模型对它们进行了分类。然而,我有另一个想法,但不知道如何实现:
我认为为评论中的每句话创建基于句法和浅层语义的特征值得一试。然而,由于段落中的句子数量不固定,我找不到任何方法来按顺序编码这些特征。我希望保持这些特征的顺序,因为句子特征的顺序可能为分类提供更好的线索。例如,如果我有两个实例P1(包含3句话)和P2(包含2句话),我会有一个这样的空间(假设每句话有一个二进制特征a或b):
P1 -> a b b /classXP2 -> b a /classY
所以,我的疑问是,是否可以在特征空间中实现不同特征大小的分类?如果可以,在Weka、scikit-learn或Mallet中是否有我可以使用的分类器?我非常感谢任何回应。
谢谢
回答:
无论实现方式如何,标准核(线性、多项式、RBF)的SVM需要固定长度的特征向量。你可以通过布尔编码在这些特征向量中编码任何信息;例如,收集语料库中出现的所有句法/语义特征,然后引入布尔值来表示“某某特征在此文档中出现”。如果需要捕捉这些特征在多句话中出现的事实,可以计算它们的频率并将频率放入特征向量中(但要确保按文档长度对频率进行归一化,因为SVM不具备尺度不变性)。