Hugging Face·· 23 天前AI 评分55
基于 Hugging Face Jobs 实现无需 NCCL 的 LoRA 异步 GRPO 训练实践
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI 导读
Hugging Face 介绍了在 HF Jobs 上结合 TRL v1.14 与 vLLM 运行无需 NCCL 的 LoRA 异步 GRPO 方案，通过存储桶在训练与推理容器间同步适配器权重。
来源：Hugging Face · huggingface.co