如何使用Lasso和RobustScaler构建预测函数?

我正在尝试弄清楚如何在不使用Sklearn提供的.predict函数的情况下,使用LASSO回归来预测值。这基本上是为了拓宽我对LASSO内部工作原理的理解。我在Cross Validated上问了一个关于LASSO回归如何工作的问题,其中一个评论提到预测函数的工作方式与线性回归相同。因此,我想尝试自己编写一个函数来实现这一点。

我成功地在一些简单的例子中重新创建了预测函数,但在尝试与RobustScaler结合使用时,我得到的输出总是不同。在这个例子中,我使用Sklearn得到的预测值为4.33,而使用我自己的函数得到的预测值为6.18。我在这里错过了什么?我是否没有在最后正确地反向转换预测值?


回答:

训练后的Lasso模型不知道给定的数据点是否已被缩放。因此,您的手动预测方法不应考虑缩放因素。

如果我去掉您对模型系数的处理,我们可以得到Sklearn模型的结果

example = [[3,1,1,1]]lasso.predict(example)# array([0.07533937])#Predictions without using the .predict function def lasso_predict_value_(X1,X2,X3,X4):     x_test = np.array([X1,X2, X3, X4])    preds = lasso.intercept_ + sum(x_test*lasso.coef_)    print('Your predicted value is: ', preds)lasso_predict_value_(3,1,1,1)# Your predicted value is:  [0.07533937]

更新2:

一旦我使用LASSO,我需要查看我的预测值在原始单位下的情况。我的因变量是以美元计,如果我不将其反向转换回来,我就无法看到预测需要多少美元。

这是一个非常合理的场景。您需要使用transformer_y.inverse_transform来获取未缩放的美元金额值。没有必要干扰模型权重。

更新后的例子

example = [[3,1,1,1]]scaled_pred = lasso.predict(transformer_x.transform(example))transformer_y.inverse_transform([scaled_pred])# array([[4.07460407]])#Predictions without using the .predict function def lasso_predict_value_(X1,X2,X3,X4):     x_test = transformer_x.transform(np.array([X1,X2, X3, X4]).reshape(1,-1))[0]    preds = lasso.intercept_ + sum(x_test*lasso.coef_)    print('Your predicted value is: ', preds)    print('Your unscaled predicted value is: ',           transformer_y.inverse_transform([scaled_pred]))lasso_predict_value_(3,1,1,1)# Your predicted value is:  [0.0418844]    # Your unscaled predicted value is:  [[4.07460407]]

Related Posts

多维度Top-k评分

例如,在机器学习中的自然语言处理中,通常使用波束搜索来…

R – Caret train() “错误:停止” 与 “在newdata中未找到对象中使用的所有变量名”

我正在尝试为蘑菇数据构建一个简单的朴素贝叶斯分类器。我…

创建训练和测试数据集分割,数据嵌套在多个文件夹中

我正在准备数据以训练一个图像识别模型。目前我有一个文件…

我的神经网络预测出现错误:IndexError: list index out of range

我正在进行一个简单的垃圾邮件/非垃圾邮件文本分类。我的…

python 给出数组是一维的,但索引了两个维度错误

我已经为 miniBatchGradientDesce…

TensorFlow自定义训练步骤使用不同的损失函数

背景 根据TensorFlow文档,可以使用以下方式执…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注