Tensorflow:为什么在应用梯度的步骤中使用zip()函数?

我在学习Udacity深度学习课程的第6次作业时,对在应用梯度的步骤中使用zip()函数的原因感到困惑。

以下是相关的代码:

# 定义损失函数logits = tf.nn.xw_plus_b(tf.concat(0, outputs), w, b) loss = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(logits, tf.concat(0, train_labels)))# 优化器.global_step = tf.Variable(0)#staircase=True表示学习率在离散时间步更新learning_rate = tf.train.exponential_decay(10.0, global_step, 5000, 0.1, staircase=True)optimizer = tf.train.GradientDescentOptimizer(learning_rate)gradients, v = zip(*optimizer.compute_gradients(loss))gradients, _ = tf.clip_by_global_norm(gradients, 1.25)optimizer = optimizer.apply_gradients(zip(gradients, v), global_step=global_step)

使用zip()函数的目的是什么?

为什么gradientsv以这种方式存储?我以为zip(*iterable)只返回一个zip对象。


回答:

我不了解Tensorflow,但推测optimizer.compute_gradients(loss)会生成(梯度, 值)元组。

gradients, v = zip(*optimizer.compute_gradients(loss))

执行了转置操作,创建了一个梯度列表和一个值列表。

gradients, _ = tf.clip_by_global_norm(gradients, 1.25)

然后对梯度进行裁剪,

optimizer = optimizer.apply_gradients(zip(gradients, v), global_step=global_step)

重新将梯度和值列表打包成(梯度, 值)元组的可迭代对象,然后传递给optimizer.apply_gradients方法。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注