我已经在下面编写了一个示例代码

import numpy as npimport pandas as pdimport csv from sklearn.feature_extraction.text import CountVectorizerfrom sklearn.feature_extraction.text import TfidfTransformerfrom sklearn.naive_bayes import MultinomialNBtext = ["this is dog" , "this is bull dog" , "this is jack"]countVector  = CountVectorizer()countmatrix = countVector.fit_transform(text)print countVector.vocabulary_print countmatrix.toarray()tfidf_transformer = TfidfTransformer()idfX = tfidf_transformer.fit_transform(countmatrix)#print tfidf_transformer.vocabulary_print idfX.toarray()clf = MultinomialNB().fit( idfX, ["dog" , "dog" , "human"])test = ["this is jack"]testCountMatrix = countVector.transform(test)testidfX = tfidf_transformer.transform(testCountMatrix)print testidfX.toarray()print clf.predict(testidfX)

对于上述结果，我得到的预测是"Dog"，尽管训练数据与测试数据完全相同。

我哪里做错了？

回答：

你编写的代码导致这种结果是可以预期的（或者至少不那么出乎意料）：你有两个标记为dog的实例，其中包含this is这个词，因此算法学会了this is与dog相关联。这可能不是你想要的结果，但这是一个有效的关联（如果你不懂英语，你不也可能会犯同样的错误吗？）。你对训练数据过拟合了。默认的SVC()也会给出相同的结果。

尝试将最后一个训练实例改为this is jack jack，例如，这样this is jack就会被预测为human，因为jack这个词作为human的标识符会更“有力”。

另一种方法是设置分类器中的alpha参数：

clf = MultinomialNB(alpha=0.1).fit( idfX, ["dog" , "dog", "human"])

这样可以正确分类你所有的训练实例。

查看scikit的网格搜索来优化你的预测器的超参数。使用默认值几乎永远不是你能做的最好的事情。