我正在尝试在谷歌云ML上运行一个训练作业。我的工作运行的迹象包括:
- 表明软件包已构建和安装的消息,例如:
INFO 2017-06-07 15:14:01 -0700 master-replica-0 成功构建training-job-foo
INFO 2017-06-07 15:14:01-0700 master-replica-0 正在安装收集的包:training-job-foo
INFO 2017-06-07 15:14:01-0700 master-replica-0 成功安装training-job-foo-0.1.dev0
INFO 2017-06-07 15:14:01-0700 master-replica-0 运行命令:pip install –user training-job-foo-0.1.dev0.tar.gz
INFO 2017-06-07 15:14:02-0700 master-replica-0 处理./training-job-foo-0.1.dev0.tar.gz
- 表明我的作业开始运行的消息,例如:
INFO 2017-06-07 15:14:03 -0700 master-replica-0 运行命令:python -m training-job-foo.training_routine_bar –job-dirgs://regional-bucket-similar-to-training-job/output/
- 表明我的标量摘要正在处理的消息,例如:
INFO 2017-06-07 15:14:21 -0700 master-replica-0 摘要名称 TotalAccuracy 非法;使用 Total_Accuracy 代替。
-
最后,我还看到CPU、内存使用量增加,以及我的消耗的ML单元增加
-
另外需要补充的是,我还看到摘要文件写入器在作业创建之前创建了摘要文件,但我没有看到这些文件大小增加。我还看到一个初始检查点文件写入到 gs://regional-bucket-similar-to-training-job/output/
除此之外,我没有看到进一步的日志或输出。我应该会看到日志,因为我会定期打印准确率和损失。我还写入摘要和检查点文件。
我遗漏了什么?
在这种情况下,还有哪些其他调试工具可用?目前我所做的只是流式传输日志,观察作业状态、CPU使用率、内存使用率在云ML控制台上,并监控我的云存储桶是否有任何变化
回答:
很抱歉您遇到了问题。目前,可用的调试工具包括作业日志、指标和TensorBoard,但看起来这些在您的情况下都无法使用。如果可能,请将您的项目编号和作业ID发送给我们到 [email protected],以便我们仔细查看?