重新初始化Tensorflow中的变量

我在使用Tensorflow的tf.Saver来加载一个预训练模型,并希望通过擦除(重新初始化为随机值)某些层的权重和偏置来重新训练这些层,然后训练这些层并保存训练后的模型。我找不到一种方法来重新初始化这些变量。我尝试过tf.initialize_variables(fine_tune_vars)但它不起作用(我猜是因为这些变量已经被初始化了),我还看到可以将变量传递给tf.Saver以便部分加载模型,但这只是我想要实现的一半(因为当我保存训练后的模型时,我希望它能保存所有变量,而不仅仅是我加载的那些)。

提前感谢!


回答:

initialize_all_variables应该可以重新初始化之前已经初始化的变量。

刚刚在0.10版本中进行了这个健全性检查

tf.reset_default_graph()a = tf.Variable(tf.ones_initializer(()))init_op = tf.initialize_all_variables()modify_op = a.assign(5.0)sess = tf.InteractiveSession()sess.run(init_op)print(a.eval())sess.run(modify_op)print(a.eval())sess.run(init_op)print(a.eval())

结果

1.05.01.0

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注