我在这里找到了很多关于从已拟合的CrossValidator对象中提取最佳模型参数的问题,但关于这个特定错误我没有找到任何信息。我试图创建一个CrossValidator对象并将其拟合到我的训练数据上,然后评估与我最初的线性回归模型的指标。我的数据集已经被处理成适当的格式并分为训练和测试集,并成功应用于第一个线性回归模型。首次尝试交叉验证时,我似乎搞错了什么,因为代码的最后一行返回了一个”IllegalArgumentException: label does not exist. Available: PE, features, CrossValidator_3fda633cd32d_rand, prediction“,其中’PE’是我的labelCol。
from pyspark.ml.regression import LinearRegression from pyspark.ml.evaluation import RegressionEvaluatorfrom pyspark.ml.tuning import CrossValidator, ParamGridBuilderlrCV = LinearRegression(featuresCol='features', labelCol='PE', maxIter=50)#Creating a grid of parameter values that the cross-validation will useparamGrid = ParamGridBuilder() \ .addGrid(lrCV.regParam, [1, 0.1, 0.01]) \ .addGrid(lrCV.elasticNetParam, [0.0, 0.5, 1.0, 2]) \ .addGrid(lrCV.fitIntercept, [True, False]) \ .build()#Create an instance of the CrossValidator object and enter our predefined parameterscrossVal = CrossValidator(estimator=lrCV, estimatorParamMaps=paramGrid, evaluator=RegressionEvaluator(), numFolds=5)lrModelCV = crossVal.fit(train)
有谁有任何建议吗?我猜这可能是我忽略的非常简单的问题,但无论如何我都找不到它是什么。提前感谢。
回答:
默认情况下,CrossValidation期望输出标签名为label
- 您可以从一开始就将输出列命名为
label
,以避免所有混乱
或者
-
您也可以将
labelCol='PE'
传递给RegressionEvaluator()
RegressionEvaluator(labelCol='PE')