Pyspark训练的Logistic Regression模型无法使用predict()和predictProbability()函数

我使用PySpark MLlib内置的LogisticRegression类训练了一个逻辑回归模型。然而,训练完成后,无法使用该模型对其他数据框进行预测,因为出现了AttributeError: 'LogisticRegression' object has no attribute 'predictProbability'AttributeError: 'LogisticRegression' object has no attribute 'predict'的错误。

from pyspark.ml.classification import LogisticRegressionmodel = LogisticRegression(regParam=0.5, elasticNetParam=1.0)# 定义输入特征与输出列model.setFeaturesCol('features')model.setLabelCol('WinA')model.fit(df_train)model.setPredictionCol('WinA')model.predictProbability(df_val['features'])model.predict(df_val['features'])
AttributeError: 'LogisticRegression' object has no attribute 'predictProbability'

属性:

PySpark版本:

>>import pyspark>>pyspark.__version__3.1.2

JDK版本:

>>!java -versionopenjdk version "11.0.11" 2021-04-20OpenJDK Runtime Environment (build 11.0.11+9-Ubuntu-0ubuntu2.18.04)OpenJDK 64-Bit Server VM (build 11.0.11+9-Ubuntu-0ubuntu2.18.04, mixed mode, sharing)

环境: Google Colab


回答:

此处放置您的代码

model.fit(df_train)

实际上并没有给您一个训练好的模型,因为变量model的类型仍然是pyspark.ml.classification.LogisticRegression

type(model)# pyspark.ml.classification.LogisticRegression

因此,您应该通过将返回的对象赋值给一个变量或覆盖您的model变量,这样它会给您一个训练好的逻辑回归模型,类型为pyspark.ml.classification.LogisticRegressionModel

model = model.fit(df_train)type(model)# pyspark.ml.classification.LogisticRegressionModel

最后,.predict.predictProbability方法需要一个pyspark.ml.linalg.DenseVector对象作为参数。所以,我认为您应该使用.transform方法,因为它会将预测的标签和概率作为列添加到输入数据框中。示例如下:

predicted_df = model.transform(df_val)

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注