我使用sklearn训练了一个针对5星评级的线性回归模型,效果还不错。我使用Doc2vec创建了我的向量,并保存了该模型。然后,我将线性回归模型保存到另一个文件中。我尝试做的是加载Doc2vec模型和线性回归模型,并尝试预测另一条评论。
这个预测结果非常奇怪:无论输入是什么,它总是预测在2.1到3.0之间。
有一点需要注意的是,有人建议它可能会预测5的平均值(即2.5左右),但事实并非如此。我在训练模型时打印了预测值和测试数据的实际值,它们通常在1到5之间波动。所以我的想法是,代码的加载部分可能有问题。这是我的加载代码:
from gensim.models.doc2vec import Doc2Vec, TaggedDocumentfrom bs4 import BeautifulSoupfrom joblib import dump, loadimport pickleimport remodel = Doc2Vec.load('../vectors/750000/doc2vec_model')def cleanText(text): text = BeautifulSoup(text, "lxml").text text = re.sub(r'\|\|\|', r' ', text) text = re.sub(r'http\S+', r'<URL>', text) text = re.sub(r'[^\w\s]','',text) text = text.lower() text = text.replace('x', '') return textreview = cleanText("Horrible movie! I don't recommend it to anyone!").split()vector = model.infer_vector(review)pkl_filename = "../vectors/750000/linear_regression_model.joblib"with open(pkl_filename, 'rb') as file: linreg = pickle.load(file)review_vector = vector.reshape(1,-1)predict_star = linreg.predict(review_vector)print(predict_star)
回答:
您的示例代码显示了joblib.dump
和joblib.load
的导入,尽管在这段摘录中都没有使用。而且,您文件的后缀表明模型最初可能是用joblib.dump()
保存的,而不是普通的pickle。
但是,这段代码显示文件仅通过普通的pickle.load()
加载——这可能是错误的来源。
joblib.load()
文档表明它的load()
可能做一些事情,比如从由它自己的dump()
创建的多个单独文件中加载numpy数组。(奇怪的是,dump()
文档在这方面不太清楚,但据说dump()
有一个返回值,可能是文件名列表。)
您可以检查文件保存的位置是否有看起来相关的额外文件,并尝试使用joblib.load()
而不是普通的pickle,看看是否能加载一个更功能完善、更完整的linreg
对象。