我在尝试拟合和转换一些数据,以便稍后在分类器模型中使用,但总是会遇到错误,我不明白为什么。请问有人可以帮助我吗?
##stores the function Pipeline with parameters decided above inputPipe = getPreProcPipe(normIn=normIn, pca=pca, pcaN=pcaN, whiten=whiten)print inputPipeprint#print devData[classTrainFeatures].values.astype('float32')print devData[classTrainFeatures].shapeprint type(devData[classTrainFeatures].values)##fit pipeline to inputs features and typesinputPipe.fit(devData[classTrainFeatures].values.astype('float32'))##transform inputs XX_class = inputPipe.transform(devData[classTrainFeatures].values.astype(double))## Output Y, i.e, 0 or 1 as it is the targetY_class = devData['gen_target'].values.astype('int')#print Y_class
输出:
Pipeline(memory=None, steps=[('pca', PCA(copy=True, iterated_power='auto', n_components=None, random_state=None,svd_solver='auto', tol=0.0, whiten=False)), ('normPCA', StandardScaler(copy=True, with_mean=True, with_std=True))])(32583, 2)<type 'numpy.ndarray'>
代码末尾的错误:
ValueError: Input contains NaN, infinity or a value too large for dtype('float32').
回答:
你需要检查你使用的数据(而不是代码)是否包含NaN(非数字值),在numpy中有一个函数.isnan()
(https://docs.scipy.org/doc/numpy/reference/generated/numpy.isnan.html)来做这件事,如何获取numpy数组中所有NaN值的索引列表?
还需要检查是否有无穷值,使用.isinf()
在这个Kaggle内核中,有一个用于填充数据集中NaN和无穷值的示例代码,这些数据随后用于分类器,https://www.kaggle.com/mknorps/titanic-with-decision-trees,另见https://datascience.stackexchange.com/questions/25924/difference-between-interpolate-and-fillna-in-pandas?rq=1 关于interpolate()
删除包含NaN和无穷值的行可以通过以下方式完成:
indx = devData[classTrainFeatures].index[devData[classTrainFeatures].apply(np.isnan)]devData=devData.drop(devData.index[indx]).copy()devData=devData.reset_index(drop=True)
(获取NaN的索引,使用索引删除所有包含NaN的行,重置数据框的索引)