我正在尝试使用PyTorch的Dataset和DataLoader类来加载数据。我使用torch.from_numpy
将每个数组转换为torch Dataset中的张量,并且从查看数据来看,每个X和y确实是张量
# 此时dataset是{'X': numpy数组的数组, 'y': numpy数组的数组 } class TorchDataset(torch.utils.data.Dataset): def __init__(self, dataset): self.X_train = torch.from_numpy(dataset['X']) self.y_train = torch.from_numpy(dataset['y']) def __len__(self): return len(self.X_train) def __getitem__(self, index): return {'X': self.X_train[index], 'y': self.y_train[index]}torch_dataset = TorchDataset(dataset)dataloader = DataLoader(torch_dataset, batch_size=4, shuffle=True, num_workers=4)for epoch in range(num_epochs): for X, y in enumerate(dataloader): features = Variable(X) labels = Variable(y) ....
然而在features = Variable(X)
时,我得到以下错误:
RuntimeError: Variable数据必须是张量,但得到的是int
数据集中X和y的一个示例是:
In [1]: torch_dataset[1]Out[1]: {'X': -2.5908 -3.1123 -2.9460 ... -3.9898 -4.0000 -3.9975 -3.0867 -2.9992 -2.5254 ... -4.0000 -4.0000 -4.0000 -2.7665 -2.5318 -2.7035 ... -4.0000 -4.0000 -4.0000 ... ⋱ ... -2.4784 -2.6061 -1.6280 ... -4.0000 -4.0000 -4.0000 -2.2046 -2.1778 -1.5626 ... -3.9597 -3.9366 -3.9497 -1.9623 -1.9468 -1.5352 ... -3.8485 -3.8474 -3.8474 [torch.DoubleTensor of size 1024x1024], 'y': 107 [torch.LongTensor of size 1]}
这让我很困惑,因为PyTorch认为X是一个整数。任何帮助将不胜感激 – 谢谢!
回答:
您在使用enumerate
时出现了错误,因为enumerate
的第一个返回值是批次索引,而不是实际数据。有两种方法可以使您的脚本正常工作。
第一种方法
由于您的X
和y
不需要特殊处理。您可以只返回X
和y
的样本。将您的__getitem__
方法更改为
def __getitem__(self, index): return self.X_train[index], self.y_train[index]
同时,稍微更改一下您的训练循环:
for epoch in range(num_epochs): for batch_id, (x, y) in enumerate(dataloader): x = Variable(x) y = Variable(y) # 然后进行您想要的操作
第二种方法
您可以在__getitem__
方法中返回一个字典,并在训练循环中提取实际数据。在这种情况下,您不需要更改__getitem__
方法。只需更改您的训练循环:
for epoch in range(num_epochs): for batch_id, data in enumerate(dataloader): # data将是字典 x = Variable(data['X']) y = Variable(data['y']) # 然后进行您想要的操作