SVM – 在Python中将字符串传递给CountVectorizer会对每个字符进行向量化吗?

我有一个正常工作的SVM,当transform函数的输入是一个字符串列表时,CountVectorizer工作得很好。然而,如果我只传递一个字符串给它,即使我在构建CountVectorizer时将analyzer参数设置为word,向量化器仍然会遍历字符串中的每个字符并对每个字符进行向量化。

for x in range(0,3):        test=raw_input("Type a message to classify: ")        v=vectorizer.transform(test).toarray()        print(v)        print(len(v))        print(svm.predict(vectorizer.transform(test).toarray()))

我可以通过更改上述代码中的第二行来解决这个问题:

test=[raw_input("Type a message to classify: ")]

但这看起来很奇怪,需要一个只有一项的列表。难道没有更好的方法可以不用构造列表来实现吗?


回答:

它期望接收一个文档的列表或数组,所以当你传递一个单一的字符串时,它会假设该字符串的每个元素都是一个文档(即:一个字符)。

尝试将svm.predict(vectorizer.transform(test).toarray())更改为svm.predict(vectorizer.transform([test]).toarray())

附注:toarray()部分在使用真实世界的语料库时不会很好地扩展。sklearn中的SVM可以操作稀疏矩阵,所以我建议完全去掉那部分。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注