假设我正在进行一个标准的深度神经网络分类任务,并且使用交叉熵损失。在计算损失后,我应用一个掩码向量([0, 0, 0, 1, 1, …])到损失上,将一些损失设为零。
问题是Tensorflow将如何处理这些零损失?它们会参与反向传播吗?
回答:
是的,Tensorflow能够处理这种情况。那些被掩码的损失值的梯度将变为0,因为它们没有影响损失值。
假设我正在进行一个标准的深度神经网络分类任务,并且使用交叉熵损失。在计算损失后,我应用一个掩码向量([0, 0, 0, 1, 1, …])到损失上,将一些损失设为零。
问题是Tensorflow将如何处理这些零损失?它们会参与反向传播吗?
回答:
是的,Tensorflow能够处理这种情况。那些被掩码的损失值的梯度将变为0,因为它们没有影响损失值。