我正在尝试使用tensorflow创建一个文本分类模型。使用tfds.load()
可以导入许多数据集到项目中,但我想要创建一个自己独特的数据集。在tensorflow.js中,我只需创建一个包含训练/测试数据的JSON文件即可。使用Python似乎没有这么简单的方法来实现这一点。
有谁有这方面的经验吗?
回答:
ŧf.data.Dataset
是你需要的地方。小提示:https://www.tensorflow.org/api_docs/python/tf/data/Dataset。如果你的数据集能装进内存,你可以使用tf.data.from_tensor_slices
,它允许你从numpy数组创建一个数据集。如果不能,from_generator
可能更适合你,因为你可以用普通的Python编写你的生成器。要采用“正确”的方法(理论上这是最快的管道),你应该将数据保存为TFRecord
格式,并使用tf.data.TFRecordDataset
读取它们。无论你选择哪种方式。只需点击链接!