在对新的Linear SVM数据框进行分类时出现错误

我创建了一个多类别分类模型,使用了Linear SVM。但我无法对新加载的数据框(我的基础数据需要分类)进行分类,我遇到了以下错误。

我应该如何将我的新文本(df.reason_text)转换为TFID并使用我的模型进行分类(调用model.prediction(?))?

训练模型

from sklearn.feature_extraction.text import TfidfVectorizertfidf = TfidfVectorizer(ngram_range=(1,2), stop_words=stopwords) features = tfidf.fit_transform(training.Description).toarray()labels = training.category_idmodel = LinearSVC()X_train, X_test, y_train, y_test, indices_train, indices_test = train_test_split(features, labels, training.index, test_size=0.33, random_state=0)model.fit(X_train, y_train)y_pred = model.predict(X_test)

现在我无法将我的新数据框转换以进行分类

加载新数据框进行分类

from pyathena import connectimport pandas as pdconn = connect(s3_staging_dir='s3://athenaxxxxxxxx/result/',                    region_name='us-east-2')df = pd.read_sql("select * from data.classification_text_reason", conn)features2 = tfidf.fit_transform(df.reason_text).toarray()features2.shape

当我用TFID转换新的数据框文本并对其进行排序后,我得到了以下消息

y_pred1 = model.predict(features2)

错误

ValueError: X has 1272 features per sample; expecting 5319


回答:

当你加载一个新的DF进行分类时,你再次调用了fit_tranform(),但你应该只调用transform()。

fit_transform() 描述: Learn vocabulary and idf, return term-document matrix.

transform() 描述: Transform documents to document-term matrix.

你需要使用训练算法时创建的变换器,所以代码应该是:

tfidf.transform(df.reason_text).toarray()

如果你仍然有特征形状错误,可能是数组的形状有问题。解决变换部分,如果错误仍然发生,请发布训练和测试数据的数组格式示例,我会继续帮助你。

Related Posts

如何对SVC进行超参数调优?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

如何在初始训练后向模型添加训练数据?

我想在我的scikit-learn模型已经训练完成后再…

使用Google Cloud Function并行运行带有不同用户参数的相同训练作业

我正在寻找一种方法来并行运行带有不同用户参数的相同训练…

加载Keras模型,TypeError: ‘module’ object is not callable

我已经在StackOverflow上搜索并阅读了文档,…

在计算KNN填补方法中特定列中NaN值的”距离平均值”时

当我从头开始实现KNN填补方法来处理缺失数据时,我遇到…

使用巨大的S3 CSV文件或直接从预处理的关系型或NoSQL数据库获取数据的机器学习训练/测试工作

已关闭。此问题需要更多细节或更清晰的说明。目前不接受回…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注