我在使用Scikit-learn来填补数据集中缺失的值,但通过查看数据集中某个特征的最大值,可以清楚地看到这些缺失值被错误地填补了。首先,我使用pandas函数来查看数据集中某个特征的前10个最大值
ofData = mergeData.iloc[:, 3] print ofData.nlargest(10)
输出的结果是,
124 4.0 128 4.0 146 4.0 147 4.0 177 4.0 240 4.0 253 4.0 310 4.0 360 4.0 361 4.0
这些值是正确的,我知道这是该特征的最大可能值。然后,我使用Scikit learn来填补数据。
imp = Imputer(missing_values='NaN', strategy='mean', axis=1) nData = imp.fit_transform(mergeData) nData = pd.DataFrame(nData)
然后,我再次使用pandas来查看该特征的前10个最大值。
ofData = nData.iloc[:, 3] print ofData.nlargest(10)
输出的结果是,
1030 77.571129 1056 67.804684 1308 62.780544 1212 61.902375 927 61.207525 870 60.592999 1100 55.604145 1722 55.308159 1415 52.637559 72 49.940297
这些值显然不是该特征的平均值,因为它们都大于填补前的最大值。我完全不知道是什么原因导致的,并且担心这可能也会影响到数据集中其他特征的填补。
回答:
因为你想用列中的平均值来替换列中的缺失值,所以axis必须是0(这是默认值),而不是1。你的代码是用行的平均值来替换缺失值的。