将 DataLoader Tensorflow 用于大 pickle 大小

Use DataLoader Tensorflow for a large pickle size

提问人:Amir Ahmadi 提问时间:10/16/2023 更新时间:10/16/2023 访问量:12

问:

我有 trainSet 和 testSet 的 pickle 2 pickle,例如 data.plk , lables.plk 例如,对于训练数据,pickle 的大小为 2GB。

我想将这个泡菜文件用于拟合模型,并在拟合模型时出现错误 OOM(内存不足)。 我想使用 dataLoader 来挑选批量数据,并加载完整的 pickle 文件......

请为我提供此问题的脚本或示例代码

python tensorflow pickle dataloader oom

评论


答: 暂无答案