使用CountVectorizer和TfidfVectorizer作为文本聚类KMeans的特征向量是否合理?

我正在尝试从包含大约1000条评论的csv文件中构建我的特征向量。我的一个特征向量是使用scikit-learn的tfidf向量化器生成的tfidf。同时使用计数作为特征向量是否合理,或者是否有更好的特征向量我应该使用?

如果我最终同时使用CountVectorizer和TfidfVectorizer作为我的特征,我应该如何将它们都拟合到我的KMeans模型中(特别是km.fit()部分)?目前我只能将tfidf特征向量拟合到模型中。

这是我的代码:

vectorizer=TfidfVectorizer(min_df=1, max_df=0.9, stop_words='english', decode_error='ignore')vectorized=vectorizer.fit_transform(sentence_list)#count_vectorizer=CountVectorizer(min_df=1, max_df=0.9, stop_words='english', decode_error='ignore')#count_vectorized=count_vectorizerfit_transform(sentence_list)km=KMeans(n_clusters=num_clusters, init='k-means++',n_init=10, verbose=1)km.fit(vectorized)

回答:

你所做的是为你的文本文档找到一种数值表示(特征工程)。在某些问题中,计数效果更好,而在其他问题中,tfidf表示是最佳选择。你应该尝试这两种方法。虽然这两种表示非常相似,因此携带的信息大致相同,但使用完整的特征集(tfidf+计数)可能会获得更高的精度。通过在这一特征空间中搜索,你可能更接近真实模型。

你可以这样水平堆叠你的特征:

import scipy.sparseX = scipy.sparse.hstack([vectorized, count_vectorized])

然后你可以这样做:

model.fit(X, y)  # y 在某些模型中是可选的

Related Posts

Keras Dense层输入未被展平

这是我的测试代码: from keras import…

无法将分类变量输入随机森林

我有10个分类变量和3个数值变量。我在分割后直接将它们…

如何在Keras中对每个输出应用Sigmoid函数?

这是我代码的一部分。 model = Sequenti…

如何选择类概率的最佳阈值?

我的神经网络输出是一个用于多标签分类的预测类概率表: …

在Keras中使用深度学习得到不同的结果

我按照一个教程使用Keras中的深度神经网络进行文本分…

‘MatMul’操作的输入’b’类型为float32,与参数’a’的类型float64不匹配

我写了一个简单的TensorFlow代码,但不断遇到T…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注