我正在根据这个数据集研究按国家的人口分布:https://www.kaggle.com/tanuprabhu/population-by-country-2020
我了解到,在训练之前对数据集进行归一化是最佳实践,所以我使用sklearn.preprocessing的MinMaxScaler对数据进行了归一化处理。接着,我使用归一化后的数据集训练了模型,并保存了模型。
接下来,我想对新数据进行预测。因此,我创建了一个与训练数据集格式相似的输入文件。新输入数据只有2行(而训练数据集有200行)。
我遇到的问题是,由于新数据集中数据量少,minmaxscaler返回了1和0。1对应较大的数字,0对应较小的数字。当我将此输入 feeding 到模型中时,得到的预测值与预期值相差甚远。
我还尝试对新数据应用mixmaxscaler,输入到模型中,然后逆转结果。然而,我得到的值仍然与预期值相差甚远。
我还尝试在不应用mixmaxscalar的情况下训练模型。在这种情况下,我得到了更好的结果,但预测结果只有在某些列值较大时才响应良好。值较小的列响应不够理想,而在现实世界中,我知道这个因素对预测结果相当重要。
我哪里做错了?非常感谢提供任何关于处理训练模型输入的样本代码。
回答:
为了测试问题所在,我建议你从训练数据中取一行,在缩放之前。应用缩放器,然后使用结果作为预测数据。你应该得到与训练数据结果值相同的预测结果。当你应用缩放器时,看看它是否生成与该行训练数据中相同的值。确保你使用的是适合训练集的缩放器。不要将缩放器拟合到新数据上,只需用它来转换数据即可。