使用Scikit-Learn的CountVectorizer按文本语料库中的出现频率列出词汇表中的单词

我已经在scikit-learn中对一些文档使用了CountVectorizer进行拟合。我希望查看所有术语及其在文本语料库中的相应频率,以便选择停用词。例如

'and' 出现123次,'to' 出现100次,'for' 出现90次,... 等等

有没有内置的函数可以做到这一点?


回答:

如果cv是你的CountVectorizer,而X是向量化的语料库,那么

zip(cv.get_feature_names(),    np.asarray(X.sum(axis=0)).ravel())

会返回CountVectorizer提取的语料库中每个不同术语的(术语, 频率)对列表。

(使用asarray + ravel的小技巧是为了解决scipy.sparse中的一些特殊情况。)

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注