Hugging Face Blog·· 21 天前AI 评分56
用 LoRA 在 HF Jobs 上跑异步 GRPO:一个存储桶、一个代理,不用 NCCL
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI 导读
TRL v1.14 的 AsyncGRPOTrainer 支持只训练并同步 LoRA 适配器到 vLLM,rank-1 适配器仅几 MB,可经由各 Job 挂载的 Storage Bucket 传输,从而让训练与推理分属不同 Hugging Face Jobs,无需 NCCL。
来源:Hugging Face Blog · huggingface.co