使用Tensorflow的ANN来训练一个简单的已知方程Y=Sin(X)或Y=Cos(X)。我的损失函数收敛得很好。损失函数收敛图。如果损失函数收敛，这意味着模型已经很好地拟合了我的训练数据集。

然而，当我使用训练集本身作为参数进行预测时，模型连训练数据都无法预测，这很奇怪。可以看到，在第200个值之后，模型显示完全没有经过训练。如果损失函数已经收敛，那么模型应该完美地拟合训练数据集，但这里的情况并非如此。我的代码哪里出了问题？

X = np.linspace(0,10*np.pi,1000)Y = np.sin(X)model = tf.keras.models.Sequential()model.add(tf.keras.layers.Dense(500,input_shape=(1,),activation='relu'))model.add(tf.keras.layers.Dense(1))opt = tf.keras.optimizers.Adam(0.01)model.compile(optimizer=opt,loss='mse')r= model.fit(X.reshape(-1,1),Y,epochs=100)plt.plot(r.history['loss'])Yhat = model.predict(X.reshape(-1,1)).flatten()plt.plot(Y)plt.plot(Yhat)

回答：

这是您数据的本质导致的。

这让我想起了那篇古老的论文，展示了ANN甚至无法计算XOR

无论如何，这里原因在于您的模型是浅层的，浅层网络的效率远低于深层网络。为了给您一个对比，类似下面的模型

model = tf.keras.models.Sequential()model.add(tf.keras.layers.Dense(20,input_shape=(1,),activation='relu'))model.add(tf.keras.layers.Dense(20,activation='relu'))model.add(tf.keras.layers.Dense(1))

可能会表现得更好，尽管它的参数只有原始模型的1/3，这是因为网络越深，模型能够创建的表示就越复杂。需要记住的核心点是

深度学习模型不会构建非线性决策边界，因为每个单元本质上是设计来创建某种线性决策边界的。那么它做了什么呢？它通过堆叠这些线性决策边界来创建数据的线性可分表示。

此外，最重要的是要了解您的数据。在这种情况下，使用概率模型几乎可以得到完美的结果。您可以使用TensorFlow概率轻松实现这些模型。