跳到正文
原文
Hugging Face Blog·· 2021-04-16精选AI 评分61

Hugging Face 发布 Accelerate 库,五行代码让 PyTorch 训练脚本适配任意分布式设备

Introducing 🤗 Accelerate

AI 导读

Hugging Face 发布开源库 Accelerate,用户只需在标准 PyTorch 训练脚本中添加约五行代码,即可在多 GPU、TPU、混合精度等任意分布式环境下运行,且保留对训练循环的完全控制。

推荐理由

原文给出在标准 PyTorch 脚本上加约五行代码即可迁移多 GPU、TPU 和混合精度的具体做法,可与手写 DistributedDataParallel 对比参考。

来源:Hugging Face Blog · huggingface.co