我正在尝试从包含大约1000条评论的csv文件中构建我的特征向量。我的一个特征向量是使用scikit-learn的tfidf向量化器生成的tfidf。同时使用计数作为特征向量是否合理,或者是否有更好的特征向量我应该使用?
如果我最终同时使用CountVectorizer和TfidfVectorizer作为我的特征,我应该如何将它们都拟合到我的KMeans模型中(特别是km.fit()部分)?目前我只能将tfidf特征向量拟合到模型中。
这是我的代码:
vectorizer=TfidfVectorizer(min_df=1, max_df=0.9, stop_words='english', decode_error='ignore')vectorized=vectorizer.fit_transform(sentence_list)#count_vectorizer=CountVectorizer(min_df=1, max_df=0.9, stop_words='english', decode_error='ignore')#count_vectorized=count_vectorizerfit_transform(sentence_list)km=KMeans(n_clusters=num_clusters, init='k-means++',n_init=10, verbose=1)km.fit(vectorized)
回答:
你所做的是为你的文本文档找到一种数值表示(特征工程)。在某些问题中,计数效果更好,而在其他问题中,tfidf表示是最佳选择。你应该尝试这两种方法。虽然这两种表示非常相似,因此携带的信息大致相同,但使用完整的特征集(tfidf+计数)可能会获得更高的精度。通过在这一特征空间中搜索,你可能更接近真实模型。
你可以这样水平堆叠你的特征:
import scipy.sparseX = scipy.sparse.hstack([vectorized, count_vectorized])
然后你可以这样做:
model.fit(X, y) # y 在某些模型中是可选的