PyTorch: Variable数据必须是张量 — 数据已是张量

我正在尝试使用PyTorch的Dataset和DataLoader类来加载数据。我使用torch.from_numpy将每个数组转换为torch Dataset中的张量,并且从查看数据来看,每个X和y确实是张量

# 此时dataset是{'X': numpy数组的数组, 'y': numpy数组的数组  } class TorchDataset(torch.utils.data.Dataset):    def __init__(self, dataset):        self.X_train = torch.from_numpy(dataset['X'])        self.y_train = torch.from_numpy(dataset['y'])    def __len__(self):        return len(self.X_train)    def __getitem__(self, index):        return {'X': self.X_train[index], 'y': self.y_train[index]}torch_dataset = TorchDataset(dataset)dataloader = DataLoader(torch_dataset, batch_size=4, shuffle=True, num_workers=4)for epoch in range(num_epochs):    for X, y in enumerate(dataloader):        features = Variable(X)        labels = Variable(y)        ....

然而在features = Variable(X)时,我得到以下错误:

RuntimeError: Variable数据必须是张量,但得到的是int

数据集中X和y的一个示例是:

In [1]: torch_dataset[1]Out[1]: {'X':  -2.5908 -3.1123 -2.9460  ...  -3.9898 -4.0000 -3.9975 -3.0867 -2.9992 -2.5254  ...  -4.0000 -4.0000 -4.0000 -2.7665 -2.5318 -2.7035  ...  -4.0000 -4.0000 -4.0000       ...             ⋱             ...           -2.4784 -2.6061 -1.6280  ...  -4.0000 -4.0000 -4.0000 -2.2046 -2.1778 -1.5626  ...  -3.9597 -3.9366 -3.9497 -1.9623 -1.9468 -1.5352  ...  -3.8485 -3.8474 -3.8474 [torch.DoubleTensor of size 1024x1024], 'y':   107 [torch.LongTensor of size 1]}

这让我很困惑,因为PyTorch认为X是一个整数。任何帮助将不胜感激 – 谢谢!


回答:

您在使用enumerate时出现了错误,因为enumerate的第一个返回值是批次索引,而不是实际数据。有两种方法可以使您的脚本正常工作。

第一种方法

由于您的Xy不需要特殊处理。您可以只返回Xy的样本。将您的__getitem__方法更改为

 def __getitem__(self, index):        return self.X_train[index], self.y_train[index]

同时,稍微更改一下您的训练循环:

for epoch in range(num_epochs):        for batch_id, (x, y) in enumerate(dataloader):           x = Variable(x)           y = Variable(y)           # 然后进行您想要的操作

第二种方法

您可以在__getitem__方法中返回一个字典,并在训练循环中提取实际数据。在这种情况下,您不需要更改__getitem__方法。只需更改您的训练循环:

for epoch in range(num_epochs):        for batch_id, data in enumerate(dataloader):        # data将是字典         x = Variable(data['X'])        y = Variable(data['y'])        # 然后进行您想要的操作

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注