我正在尝试弄清楚如何在不使用Sklearn提供的.predict
函数的情况下,使用LASSO回归来预测值。这基本上是为了拓宽我对LASSO内部工作原理的理解。我在Cross Validated上问了一个关于LASSO回归如何工作的问题,其中一个评论提到预测函数的工作方式与线性回归相同。因此,我想尝试自己编写一个函数来实现这一点。
我成功地在一些简单的例子中重新创建了预测函数,但在尝试与RobustScaler
结合使用时,我得到的输出总是不同。在这个例子中,我使用Sklearn得到的预测值为4.33,而使用我自己的函数得到的预测值为6.18。我在这里错过了什么?我是否没有在最后正确地反向转换预测值?
回答:
训练后的Lasso
模型不知道给定的数据点是否已被缩放。因此,您的手动预测方法不应考虑缩放因素。
如果我去掉您对模型系数的处理,我们可以得到Sklearn模型的结果
example = [[3,1,1,1]]lasso.predict(example)# array([0.07533937])#Predictions without using the .predict function def lasso_predict_value_(X1,X2,X3,X4): x_test = np.array([X1,X2, X3, X4]) preds = lasso.intercept_ + sum(x_test*lasso.coef_) print('Your predicted value is: ', preds)lasso_predict_value_(3,1,1,1)# Your predicted value is: [0.07533937]
更新2:
一旦我使用LASSO,我需要查看我的预测值在原始单位下的情况。我的因变量是以美元计,如果我不将其反向转换回来,我就无法看到预测需要多少美元。
这是一个非常合理的场景。您需要使用transformer_y.inverse_transform
来获取未缩放的美元金额值。没有必要干扰模型权重。
更新后的例子
example = [[3,1,1,1]]scaled_pred = lasso.predict(transformer_x.transform(example))transformer_y.inverse_transform([scaled_pred])# array([[4.07460407]])#Predictions without using the .predict function def lasso_predict_value_(X1,X2,X3,X4): x_test = transformer_x.transform(np.array([X1,X2, X3, X4]).reshape(1,-1))[0] preds = lasso.intercept_ + sum(x_test*lasso.coef_) print('Your predicted value is: ', preds) print('Your unscaled predicted value is: ', transformer_y.inverse_transform([scaled_pred]))lasso_predict_value_(3,1,1,1)# Your predicted value is: [0.0418844] # Your unscaled predicted value is: [[4.07460407]]