跳到正文
原文
Hugging Face·· 2021-04-16精选AI 评分74

Hugging Face 推出 PyTorch 分布式训练库 Accelerate

Introducing 🤗 Accelerate

AI 导读

Hugging Face 正式推出开源训练库 Accelerate,让开发者仅需在原生 PyTorch 训练脚本中增加数行代码,即可在 CPU、多 GPU、TPU 以及混合精度等不同硬件配置下无缝运行。该库通过统一的 API 自动接管设备放置、模型包装与 DataLoader 分发,同时提供简化的 CLI 工具以统一各环境的启动流程。

推荐理由

原文展示了仅需改动数行代码即可适配多卡与混合精度的方案,读者可参考其封装方式降低原生训练循环的跨硬件维护成本。

来源:Hugging Face · huggingface.co