使用CountVectorizer和TfidfVectorizer作为文本聚类KMeans的特征向量是否合理?

我正在尝试从包含大约1000条评论的csv文件中构建我的特征向量。我的一个特征向量是使用scikit-learn的tfidf向量化器生成的tfidf。同时使用计数作为特征向量是否合理,或者是否有更好的特征向量我应该使用?

如果我最终同时使用CountVectorizer和TfidfVectorizer作为我的特征,我应该如何将它们都拟合到我的KMeans模型中(特别是km.fit()部分)?目前我只能将tfidf特征向量拟合到模型中。

这是我的代码:

vectorizer=TfidfVectorizer(min_df=1, max_df=0.9, stop_words='english', decode_error='ignore')vectorized=vectorizer.fit_transform(sentence_list)#count_vectorizer=CountVectorizer(min_df=1, max_df=0.9, stop_words='english', decode_error='ignore')#count_vectorized=count_vectorizerfit_transform(sentence_list)km=KMeans(n_clusters=num_clusters, init='k-means++',n_init=10, verbose=1)km.fit(vectorized)

回答:

你所做的是为你的文本文档找到一种数值表示(特征工程)。在某些问题中,计数效果更好,而在其他问题中,tfidf表示是最佳选择。你应该尝试这两种方法。虽然这两种表示非常相似,因此携带的信息大致相同,但使用完整的特征集(tfidf+计数)可能会获得更高的精度。通过在这一特征空间中搜索,你可能更接近真实模型。

你可以这样水平堆叠你的特征:

import scipy.sparseX = scipy.sparse.hstack([vectorized, count_vectorized])

然后你可以这样做:

model.fit(X, y)  # y 在某些模型中是可选的

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注