如何使用Lasso和RobustScaler构建预测函数?

我正在尝试弄清楚如何在不使用Sklearn提供的.predict函数的情况下,使用LASSO回归来预测值。这基本上是为了拓宽我对LASSO内部工作原理的理解。我在Cross Validated上问了一个关于LASSO回归如何工作的问题,其中一个评论提到预测函数的工作方式与线性回归相同。因此,我想尝试自己编写一个函数来实现这一点。

我成功地在一些简单的例子中重新创建了预测函数,但在尝试与RobustScaler结合使用时,我得到的输出总是不同。在这个例子中,我使用Sklearn得到的预测值为4.33,而使用我自己的函数得到的预测值为6.18。我在这里错过了什么?我是否没有在最后正确地反向转换预测值?


回答:

训练后的Lasso模型不知道给定的数据点是否已被缩放。因此,您的手动预测方法不应考虑缩放因素。

如果我去掉您对模型系数的处理,我们可以得到Sklearn模型的结果

example = [[3,1,1,1]]lasso.predict(example)# array([0.07533937])#Predictions without using the .predict function def lasso_predict_value_(X1,X2,X3,X4):     x_test = np.array([X1,X2, X3, X4])    preds = lasso.intercept_ + sum(x_test*lasso.coef_)    print('Your predicted value is: ', preds)lasso_predict_value_(3,1,1,1)# Your predicted value is:  [0.07533937]

更新2:

一旦我使用LASSO,我需要查看我的预测值在原始单位下的情况。我的因变量是以美元计,如果我不将其反向转换回来,我就无法看到预测需要多少美元。

这是一个非常合理的场景。您需要使用transformer_y.inverse_transform来获取未缩放的美元金额值。没有必要干扰模型权重。

更新后的例子

example = [[3,1,1,1]]scaled_pred = lasso.predict(transformer_x.transform(example))transformer_y.inverse_transform([scaled_pred])# array([[4.07460407]])#Predictions without using the .predict function def lasso_predict_value_(X1,X2,X3,X4):     x_test = transformer_x.transform(np.array([X1,X2, X3, X4]).reshape(1,-1))[0]    preds = lasso.intercept_ + sum(x_test*lasso.coef_)    print('Your predicted value is: ', preds)    print('Your unscaled predicted value is: ',           transformer_y.inverse_transform([scaled_pred]))lasso_predict_value_(3,1,1,1)# Your predicted value is:  [0.0418844]    # Your unscaled predicted value is:  [[4.07460407]]

Related Posts

如何提升CatBoostRegressor的性能?

已关闭。此问题属于基于意见的问题。目前不接受回答。 想…

多文本列的特征提取用于分类问题

如何从多个文本列中正确提取特征并应用任何分类算法?请指…

计算分类模型预测的概率

我有一个分类任务。训练数据有50个不同的标签。客户希望…

加载和使用已保存的BoostedTreesClassifier模型

我正在尝试在TensorFlow中使用一个已保存的Bo…

如何在Python中绘制移动平均线?

如何计算y_pred_org的移动平均并绘制出来?我尝…

如何在每个批次后获取超过一个周期的历史记录

我正在使用Keras训练一个模型,仅训练一个周期: h…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注