我有一个训练流程,使用了CrossEntropyLoss
,并设置了一个忽略类别。
模型输出log_probs
的形状为(150, 3)
,这意味着在150个批次中,有3个可能的类别。
label_batch
的形状为150
,并且torch.max(label_batch)
== tensor(3, device='cuda:0')
,这意味着存在一个额外的类别标记为3
,它是忽略类别。
损失函数可以很好地处理它:
self._criterion = nn.CrossEntropyLoss( reduction='mean', ignore_index=3)
但是准确率度量认为类别3
是有效的,并给出了非常错误的结果:
self.train_acc = pl.metrics.Accuracy()
由于3
标签应该被忽略,使用self.train_acc.update(log_probs, label_batch)
得到错误的结果。
如何正确地在pl.metrics.Accuracy()
中使用忽略类别?
回答:
从github论坛讨论线程中复制响应 https://github.com/PyTorchLightning/pytorch-lightning/discussions/6890
目前在准确率度量中还不支持这个功能,但我们有一个正在进行的PR来实现这个功能 PyTorchLightning/metrics#155
目前,您可以计算混淆矩阵,然后基于此忽略某些类别(请记住,真阳性/正确分类的位于混淆矩阵的对角线上):
ignore_index = 3metric = ConfusionMatrix(num_classes=3)confmat = metric(preds, target)confmat = confmat[:2,:2] # 移除对应类别3的最后一列和最后一行acc = confmat.trace() / confmat.sum()