我想使用Weka对句子进行分类。我的特征是句子中的词语以及每个词语的词性标签。我不知道如何确定属性,因为如果每个词语都被视为一个特征,那么每个实例(句子)的特征数量就会不同。此外,如果将句子中的所有词语作为一个特征,该如何关联词语及其词性标签呢?
有什么建议我该如何进行吗?
回答:
如果我正确理解了这个问题,答案如下:最常见的方法是将词语独立于其在句子中的位置来处理,并通过每个已知词语在该句子中出现的次数来表示句子在特征空间中的位置。也就是说,通常训练数据中的每个词语都有一个单独的数值特征。或者,如果你愿意使用n-gram,那么训练数据中的每个n-gram都有一个单独的特征(可能还有一些频率阈值)。
至于词性标签,如果你关注的分类与句子结构(语法)有关,使用它们作为单独的特征可能是有意义的。否则,你可能只需要将词性标签附加到词语上,这将部分消除那些可以代表不同词性的词语的歧义。