观察这两个函数的签名及其参数
tf.train.shuffle_batch_join(tensors_list,batch_size,capacity,min_after_dequeue,seed=None,enqueue_many=False,shapes=None,allow_smaller_final_batch=False,shared_name=None,name=None)
和
tf.train.shuffle_batch(tensors,batch_size,capacity,min_after_dequeue,num_threads=1,seed=None,enqueue_many=False,shapes=None,allow_smaller_final_batch=False,shared_name=None,name=None)
参数中唯一的区别是num_threads
,这直观地表明tf.train.shuffle_batch
可以使用多个线程或进程进行处理。除此之外,它们的工作内容似乎非常相似。
我想知道除了批处理的多进程处理之外,是否还有其他根本性的区别,导致人们选择其中一个而不是另一个。
回答:
引用shuffle_batch_join的TensorFlow文档内容:
tensors_list参数是一个包含张量元组或张量字典的列表。列表中的每个元素的处理方式与tf.train.shuffle_batch()的tensors参数类似。
基本上,shuffle_batch_join期望能够:
- 接收一个张量列表
- 对列表中的每个成员执行shuffle_batch操作
- 返回一个与tensors_list[i]数量和类型相同的张量列表
请注意,如果使用shuffle_batch_join:
将启动len(tensors_list)个线程,第i个线程将tensors_list[i]中的张量入队。如果enqueue_many为真,则tensors_list[i1][j]和tensors_list[i2][j]在类型和形状上必须匹配,除了第一维度之外。