我在使用tensorflow的estimator对象来训练模型,参考的是官方tensorflow层的文档(https://www.tensorflow.org/tutorials/layers)。我注意到训练过程中训练损失值会在控制台显示。请问有没有办法将这些训练损失值存储起来?
谢谢!
回答:
这些显示是通过logging.info完成的。tf.estimator会为训练损失创建一个LoggingTensorHook,具体见这里。
我想你可以将日志输出重定向到某个文件,但这样仍然无法得到原始值。
我能想到的两种方法是:
- 编写自己的hook来存储这些值;这可能会与
LoggingTensorHook非常相似,你只需将数字写入文件而不是打印出来。 - 默认情况下,
tf.estimator也会为训练损失在Tensorboard中创建摘要数据;你可以在Tensorboard中打开“标量”标签页,应该能看到损失曲线。在左上角勾选“显示数据下载链接”。这将提供选项让你以CSV或JSON格式下载每个图表的数据。默认情况下,日志和摘要钩子都是设置为每100步记录一次值。所以图表应该包含你在控制台看到的相同信息。如果你不熟悉Tensorboard,Tensorflow网站上也有教程;基本使用应该相当简单!