跳到正文
原文
Google DeepMind·· 2026-04-22精选AI 评分65

Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构

Decoupled DiLoCo: A new frontier for resilient, distributed AI training

AI 导读

Google DeepMind 发布新论文提出 Decoupled DiLoCo 分布式训练架构,将大规模训练拆分为相互解耦的计算岛屿并以异步数据流连接,从而隔离局部硬件故障。

推荐理由

原文给出跨数据中心异步训练的低带宽与容错实测数据,读者可据此判断分布式预训练的工程可行边界。

来源:Google DeepMind · deepmind.google