如何在SVM中编码不同大小的特征向量

我在对包含多句话的评论(段落)进行分类。我使用Weka中的libSVM通过词袋模型对它们进行了分类。然而,我有另一个想法,但不知道如何实现:

我认为为评论中的每句话创建基于句法和浅层语义的特征值得一试。然而,由于段落中的句子数量不固定,我找不到任何方法来按顺序编码这些特征。我希望保持这些特征的顺序,因为句子特征的顺序可能为分类提供更好的线索。例如,如果我有两个实例P1(包含3句话)和P2(包含2句话),我会有一个这样的空间(假设每句话有一个二进制特征a或b):

P1 -> a b b /classXP2 -> b a /classY

所以,我的疑问是,是否可以在特征空间中实现不同特征大小的分类?如果可以,在Weka、scikit-learn或Mallet中是否有我可以使用的分类器?我非常感谢任何回应。

谢谢


回答:

无论实现方式如何,标准核(线性、多项式、RBF)的SVM需要固定长度的特征向量。你可以通过布尔编码在这些特征向量中编码任何信息;例如,收集语料库中出现的所有句法/语义特征,然后引入布尔值来表示“某某特征在此文档中出现”。如果需要捕捉这些特征在多句话中出现的事实,可以计算它们的频率并将频率放入特征向量中(但要确保按文档长度对频率进行归一化,因为SVM不具备尺度不变性)。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注