Google DeepMind·· 2026-04-22精选AI 评分65
Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构
Decoupled DiLoCo: A new frontier for resilient, distributed AI training
AI 导读
Google DeepMind 发布新论文提出 Decoupled DiLoCo 分布式训练架构,将大规模训练拆分为相互解耦的计算岛屿并以异步数据流连接,从而隔离局部硬件故障。
推荐理由
原文给出跨数据中心异步训练的低带宽与容错实测数据,读者可据此判断分布式预训练的工程可行边界。
来源:Google DeepMind · deepmind.google