我正在使用张量实现简单的梯度下降算法。它学习两个参数m和c。
其正常的Python代码如下：
for i in range(epochs): Y_pred = m*X + c # 当前预测的Y值 D_m = (-2/n) * sum(X * (Y - Y_pred)) # 关于m的导数 D_c = (-2/n) * sum(Y - Y_pred) # 关于c的导数 m = m - L * D_m # 更新m c = c - L * D_c # 更新c print (m, c) Python的输出结果：
0.7424335285442664 0.0146298950495757541.1126970531591416 0.0219625194950581541.2973530613155333 0.0256558705995521831.3894434413955663 0.0275342538687901981.4353697670010162 0.028507481513901086TensorFlow的等效代码：
# 梯度下降的图y_pred = m*x + cd_m = (-2/n) * tf.reduce_sum(x*(y-y_pred)) d_c = (-2/n) * tf.reduce_sum(y-y_pred) upm = tf.assign(m, m - learning_rate * d_m)upc = tf.assign(c, c - learning_rate * d_c)# 开始会话sess = tf.Session()# 训练epochs次for i in range(epochs): sess.run(y_pred) sess.run(d_m) sess.run(d_c) sess.run(upm) sess.run(upc) w = sess.run(m) b = sess.run(c) print(w,b)TensorFlow的输出结果：
0.7424335285442664 0.0073355504244923171.1127687194584988 0.0110311228076636621.2974962163433057 0.0129110245408054631.3896400798226038 0.0138852448763971261.4356019721347115 0.014407698787092268参数m的值相同，但参数c的值不同，尽管两种实现方式相同。
输出包含参数m和c的前5个值。使用张量的参数c的输出大约是正常Python的一半。
我不知道我的错误在哪里。
要重新创建整个输出，请访问：包含数据和两种实现的仓库
该仓库还包含通过TensorBoard在events目录中获得的图表图像
回答：
问题在于，在TensorFlow实现中，更新操作不是原子性的。换句话说，算法的实现是以交错的方式更新m和c（例如，在更新c时使用了m的新值）。为了使更新操作原子化，你应该同时运行upm和upc：
sess.run([upm, upc])