Google DeepMind·· 2026-04-22AI 评分51
Google DeepMind 推出 Decoupled DiLoCo 分布式训练架构
Decoupled DiLoCo: A new frontier for resilient, distributed AI training
AI 导读
Google DeepMind 提出新型分布式训练架构 Decoupled DiLoCo，支持在跨地域低带宽网络环境下高容错训练大语言模型。该架构将算力拆分为独立的计算岛并采用异步数据流，在局部硬件故障时系统可自愈且不中断整体训练。
来源：Google DeepMind · deepmind.google