如果我有1000个词元（我假设词元在预处理数据集后就是特征），那么从1000个词元（词）中会生成多少个二元特征？是不是每个词元都会与词汇表中的所有其他词元形成二元组合？

我问这个问题是因为我需要在Weka中预先填写词汇表中要保留的词数

回答：

你不能仅根据词元的数量来预先计算这个。bigrams是并排出现的词元对（这是来自n-gram模型的一个术语，其中有序列的概念）。因此，为了计算bigrams的数量，你需要通过你的数据滑动一个2词元的窗口，并检查你找到了多少不同的词元对。

如果你有来自某些数据X的N个词元，你只能说bigrams的数量B的界限如下：N <= B <= N^2，但确切的数量需要上述提到的程序来确定。