我编写了一个程序,该程序可以处理包含推文及其标签(0
表示中性情绪,1
表示负面情绪)的Twitter数据,并预测推文所属的类别。该程序在训练集和测试集上表现良好。然而,当我尝试将预测功能应用于一个字符串时遇到了问题。我不确定该如何操作。
我尝试过按照处理数据集的方式清理字符串,然后调用预测函数,但返回的值形状不正确。
import numpy as npimport pandas as pdfrom nltk.corpus import stopwordsfrom nltk.stem.porter import PorterStemmerps = PorterStemmer()import re#Loading datasetdataset = pd.read_csv('tweet.csv')#List to hold cleaned tweetsclean_tweet = []#Cleaning tweetsfor i in range(len(dataset)): tweet = re.sub('[^a-zA-Z]', ' ', dataset['tweet'][i]) tweet = re.sub('@[\w]*',' ',dataset['tweet'][i]) tweet = tweet.lower() tweet = tweet.split() tweet = [ps.stem(token) for token in tweet if not token in set(stopwords.words('english'))] tweet = ' '.join(tweet) clean_tweet.append(tweet)from sklearn.feature_extraction.text import CountVectorizercv = CountVectorizer(max_features = 3000)X = cv.fit_transform(clean_tweet)X = X.toarray()y = dataset.iloc[:, 1].valuesfrom sklearn.model_selection import train_test_splitX_train, X_test, y_train, y_test = train_test_split(X, y)from sklearn.naive_bayes import GaussianNBn_b = GaussianNB()n_b.fit(X_train, y_train)y_pred = n_b.predict(X_test) some_tweet = "this is a mean tweet" # How to apply predict function to this string
回答:
对你的新字符串使用cv.transform([cleaned_new_tweet])
,将你的新推文转换为现有的文档-词矩阵。这样就能以正确的形状返回推文。