我正在尝试解决一个具有两个输出值的回归问题。这两个输出值作为两个不同的阈值,用于接受或拒绝即将到来的预订值。
在业务案例中,这两个输出值是手动设置的,但我们希望通过机器学习自动完成这一过程。其中一个输出值在业务案例中可以是NaN,那么对于这一标准,所有预订都将被接受。因此,如果一个输出值未填写,则对业务案例是有效的。
例如:
X_train = np.array([(1,1),(2,2),(3,3),(4,4)])Y_train =np.array([(1,1),(2,2),(3,3),(4,np.nan)])X_test = np.array([(5,5),(6,6),(7,7)])Y_test = np.array([(5,5),(6,np.nan),(7,7)])reg = MLPRegressor()reg = reg.fit(X_train,Y_train)
我的问题是,例如,当我为输出Y_train/Y_test设置NaN值时,scikit-learn会抛出错误。
ValueError: Input contains NaN, infinity or a value too large for dtype('float64').
我不想用平均值或0来填充这些值,因为如上所述,缺失值是业务案例中有效的设置。
是否有可能使用scikit-learn或一般的机器学习来解决这样的问题?
编辑:业务未设置的输出值不是直接存储为NaN,而是作为-9999999999表示无穷大。我用NaN替换这些值,因为我认为如此高的值会扭曲结果。如果我不替换任何值,变量实际上会变成以下这样:
X_train = np.array([(1,1),(2,2),(3,3),(4,4)])Y_train =np.array([(1,1),(2,2),(3,3),(4,-9999999999)])X_test = np.array([(5,5),(6,6),(7,7)])Y_test = np.array([(5,5),(6,-9999999999),(7,7)])
保留这些值比NaN更好,还是它们会扭曲结果,必须被忽略?
回答:
也许将你的问题分解为两个任务会是一个可接受的解决方案。一个用于回归,另一个用于分类,判断数据是否被提供。
X_train = np.array([(1,1),(2,2),(3,3),(4,4)])Y1_train = np.array([(1,1),(2,2),(3,3),(4,4)])Y2_train = np.array([(1,1),(1,1),(1,1),(1,0)])X_test = np.array([(5,5),(6,6),(7,7)])Y1_test = np.array([(5,5),(6,6),(7,7)])Y2_test = np.array([(1,1),(1,0),(1,1)])
对于回归,按你对X_train和Y1_train的操作进行相同处理。
分类部分的示例代码
from sklearn.neural_network import MLPClassifierclf = MLPClassifier()clf.fit(X_train, Y2_train)