我在尝试将数据集上传到Hub(AI数据集格式)时遇到了以下错误S3SetError: Connection was closed before we received a valid response from endpoint URL: "<...>".
因此,我尝试删除数据集时,它抛出了下面的错误。
CorruptedMetaError: 'boxes/tensor_meta.json' and 'boxes/chunks_index/unsharded' have a record of different numbers of samples. Got 0 and 6103 respectively.
使用Hub版本:v2.3.1
回答:
看起来在你上传数据集时,运行被中断,导致你尝试上传的数据损坏。删除时使用force=True
应该可以让你删除它。
如需更多信息,请查看Hub API基础文档,了解如何在Hub中删除数据集的详细信息。
如果你在上传Hub数据集的过程中中途停止,你的数据集将只会部分上传到Hub。因此,你需要重新开始上传。如果你想重新创建数据集,你可以在hub.empty(overwrite = True)
中使用overwrite = True
标志。如果你正在更新现有数据集,你应该使用版本控制来检查点那些状态良好的状态。