在Pytorch中，哪个部分耗时最多？

1. 损失计算（不进行反向传播，仅计算）
2. 反向传播
3. 优化步骤请尽量解释一下。

回答：

不仅仅是在Pytorch，在所有框架中，backward_step 都需要更多的时间