Hugging Face Blog·· 2021-04-16精选AI 评分61
Hugging Face 发布 Accelerate 库,五行代码让 PyTorch 训练脚本适配任意分布式设备
Introducing 🤗 Accelerate
AI 导读
Hugging Face 发布开源库 Accelerate,用户只需在标准 PyTorch 训练脚本中添加约五行代码,即可在多 GPU、TPU、混合精度等任意分布式环境下运行,且保留对训练循环的完全控制。
推荐理由
原文给出在标准 PyTorch 脚本上加约五行代码即可迁移多 GPU、TPU 和混合精度的具体做法,可与手写 DistributedDataParallel 对比参考。
来源:Hugging Face Blog · huggingface.co