我应该如何配置数据集来学习 xlnet,transformer_xl多 gpu?

How should I configure dataset to learn xlnet, transformer_xl in multi gpu?

提问人:최원준 提问时间:11/9/2023 更新时间:11/9/2023 访问量:6

问:

如果继续相互连接的数据进入模型,
在执行Tensorflow GPU并行处理时如何配置数据集,以确保数据集进入特定GPU的连续性?

我们以多种方式转换了数据集本身,
如果我使用 [tf.distribute.Mirrored Strategy] 方法,它不起作用,因为没有定义数据被分配给特定的 gpu。

换句话说,它似乎不能保证数据的连续性

TensorFlow GPU 分布式 TensorFlow-数据集

评论


答: 暂无答案