为了提高我的模型的鲁棒性，我希望对特征张量进行标准化处理。

我尝试使用我认为对图片标准的方式进行处理：

class Dataset(torch.utils.data.Dataset):'Characterizes a dataset for PyTorch'def __init__(self, input_tensor, transform = transforms.Normalize(mean= 0.5, std=0.5)):    self.labels = input_tensor[:,:,-1]    self.features = input_tensor[:,:,:-1]    self.transform = transformdef __len__(self):    return self.labels_planned.shape[0]def __getitem__(self, index):    # Load data and get label    X = self.features[index]    y = self.labelslabels[index]    if self.transform:        X = self.transform(X)       return X, y

但是我收到了以下错误信息：

ValueError: Expected tensor to be a tensor image of size (C, H, W). Got tensor.size() = torch.Size([8, 25]).

我查看了很多地方，人们建议应该使用.view来生成第三个维度以符合图片的标准形状，但我觉得这很奇怪。是否有更简洁的方法来做这件事？另外，我应该在哪里进行标准化处理？只对批次进行，还是对整个训练数据集进行？

回答：

你提出了两个不同的问题，我将尝试回答这两个问题。

• 确实，你应该首先重塑为(c, h, w)，其中c是通道维度。在大多数情况下，你需要这个额外的维度，因为大多数“图像”层都是构建来接收三维张量的 – 不包括批次维度 – 例如nn.Conv2d，BatchNorm2d等…我认为没有办法绕过这一点，这样做会限制你使用单层图像数据集。

  你可以使用torch.reshape或Tensor.view来广播到所需的形状：

  X = X.reshape(1, *X.shape)

  或者通过使用torch.unsqueeze添加一个额外的维度：

  X.unsqueeze(0)

• 关于标准化。批量标准化和数据集标准化是两种不同的方法。

  前者是一种技术，可以提高卷积网络的性能。这种操作可以使用nn.BatchNorm2d层来实现，并且使用可学习的参数：一个缩放因子（~标准差）和一个偏差（~均值）。这种类型的标准化在调用模型时应用，并且是按批次进行的。

  后者是一种预处理技术，可以使不同的特征具有相同的尺度。这种标准化可以在数据集内按元素应用。你需要测量训练集的均值和标准差来实现这一点。