我正在尝试使用Python Keras CNN(以Tensorflow为后台)解决一个回归问题,目标是根据从Google Earth Engine通过其Python API获取的8维卫星图像(23×45像素)预测单个y值。目前我有280张图像,通过翻转和随机噪声进行增强,得到2500张图像。数据已被归一化和标准化,并且我已经移除了异常值和仅包含零的图像。
我已经测试了多种CNN架构,例如以下这种:(Convolution2D(4,4,3),MaxPooling2D(2,2),dense(50),dropout(0.4),dense(30),dropout(0.4),dense(1)
这导致了一种奇怪的行为,预测值主要分为两个不同的组或聚类(每个组的方差非常小)。真实值的方差要大得多。请参见下图。
由于我的问题更具普遍性,我选择不发布任何代码片段。是什么可能导致这种聚类预测?有什么好的常用技巧可以改善结果吗?我已经尝试使用普通神经网络和SciKit-Learn的回归工具,通过将图像展平为一长串数组(长度为23x45x8 = 8280)来解决这个问题。这不会导致聚类,尽管准确性仍然相当低。我认为这是由于数据不足或不适当造成的。
回答:
你的模型相当简单,甚至无法正确提取特征,所以我猜它是欠拟合的。并且你在两层中的 dropout 是40%,对于这么小的网络来说相当高。你似乎还使用了线性激活函数。
是的,样本数量也会影响到分组预测,主要是选择了样本占多数的类别。
我还注意到你的某些真实值大于1或小于0。你需要正确地进行归一化,并使用合适的激活函数。