我在使用scikit-learn中的朴素贝叶斯（多项式朴素贝叶斯）对小文本（推文）进行分类。我的训练数据包含1000个特征，而测试数据包含1200个特征。假设训练和测试数据共有500个共同特征。

我想知道为什么scikit-learn中的多项式朴素贝叶斯无法处理未见特征，并因此报错：

Traceback (most recent call last):  File "/Users/osopova/Documents/00_KSU_Masters/01_2016_Spring/Twitter_project/mda_project_1/step_4.py", line 60, in <module>    predict_Y = classifiers[i].predict(test_X)  File "/Library/Python/2.7/site-packages/sklearn/naive_bayes.py", line 65, in predict    jll = self._joint_log_likelihood(X)  File "/Library/Python/2.7/site-packages/sklearn/naive_bayes.py", line 672, in _joint_log_likelihood    return (safe_sparse_dot(X, self.feature_log_prob_.T)  File "/Library/Python/2.7/site-packages/sklearn/utils/extmath.py", line 184, in safe_sparse_dot    return fast_dot(a, b)ValueError: matrices are not aligned

回答：

它无法处理未见特征是因为您没有传递任何用于命名特征的参考信息。为什么在一种情况下有1200个特征，而在另一种情况下只有1000个？可能是因为测试环境中存在训练数据中没有的对象 – 但朴素贝叶斯如何判断这1200个特征中哪些在1000个中缺失呢？在这种实现中（这是假设输入为数组时唯一可能的实现方式），您有责任删除所有不对应于训练集中的列，如果情况相反，则添加零列（在有效位置），最重要的是 – 确保一个集合中的第“i”列与另一个集合中的第“i”列是相同的（捕捉到相同词语/对象的出现）。因此，在您的案例中，实际上只能使用500列，而朴素贝叶斯没有信息来找到这些列。您必须在测试场景中提供与训练中使用的相同的1000个特征，因此在您的案例中，这意味着删除训练期间未见的700列，并在有效位置添加500列零。

特别是，scikit-learn为您提供了大量的数据预处理工具（如CountVectorizer等），可以帮助您完成这些任务。