目前，我有一个函数 f(x) = x^2。

我有一个数据集，其特征是 x，对应的标签是 x^2。

我希望我的机器学习模型能够较为准确地预测新值。

例如，300 的预测值应接近 300*300 = 90000

在我的代码中，我首先创建训练数据的特征和标签，它们看起来像特征: [0, 1, 2, … 999]标签: [0, 1, 4, … 999*999]

当图表被绘制出来时，我们可以看到损失在收敛，这是模型正在学习的迹象。然而，实际的预测值与我们预期的值大相径庭 – 332823.16 与 40000 相差甚远。

绘制的图表可以在这里看到： https://i.sstatic.net/ZB5XQ.jpg

我尝试过将激活函数改为 relu 和 tanh，并调整了超参数以确保损失收敛，但没有任何效果。还有其他方法可以提高神经网络的性能吗？

回答：

你的损失图表显示误差约为 0.8E11，大约80亿 – 这是一个非常大的损失，相当于预测中的约30万误差。

原因可能是你的学习率设置为10，这非常高（tf.keras.optimizers.Adam(lr=10)）。通常使用 Adam 优化器时，学习率会设为大约 1e-3（0.001）或 1e-4（0.0001）。

还有几点需要注意 – 你甚至不需要多层模型来解决 y=x^2，尝试使用单层模型，初始设置为500个隐藏节点。较小的模型收敛速度更快。