如何将无法一次性装入内存的大型数据集分割并加载到PyTorch的DataLoader中?

我在使用Google的Colab训练一个深度学习模型,用于对NIH的Chest Xray-14数据集进行多标签疾病分类。由于有大约112k个训练样本和有限的RAM,我无法一次性将所有图像加载到DataLoader中。

是否有一种方法可以仅在PyTorch的DataLoader中存储图像路径,仅在训练的当前迭代中读取所需的图像,一旦迭代完成,就将图像从内存中卸载,依此类推,直到完成一个epoch?


回答:

是的,ImageFolder的默认行为是创建一个图像路径列表,仅在需要时加载实际图像。它不支持多类标签。然而,您可以编写自己的Dataset来支持多标签,参考ImageFolder类了解详情。

__init__方法中,您构建一个图像路径列表和相应的标签列表。图像应仅在调用__getitem__时加载。下面是一个这样的数据集类的示例,具体细节将取决于您的文件组织、图像类型和标签格式。

class CustomDataset(torch.utils.data.Dataset):    def __init__(self, args):        """ 构建图像路径和标签的索引列表 """    def __getitem__(self, n):        """ 加载图像路径列表中的第n个图像,并返回它及其标签。            对于多类标签,标签可能是值的列表"""    def __len__(self):        """ 返回此数据集中的图像总数 """

一旦您创建了一个有效的数据集实例,就应该创建一个DataLoader实例,并将您的数据集作为参数提供。DataLoader负责对其数据集进行采样,即调用您编写的__getitem__方法,并将单个样本放入小批量中。它还处理并行加载并定义索引的采样方式。DataLoader本身不会存储超过所需的数据。它在任何时间应持有的最大样本数为batch_size * num_workers(如果num_workers == 0,则为batch_size)。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注