为满足大规模分布式 AI 训练的网络需求，构建了基于 RoCEv2 协议的大规模 AI 网络。RoCEv2 是一种节点通信传输方式，Meta 已成功扩展该网络，从原型发展到部署众多可容纳数千个 GPU 的集群，支持多种生产型分布式 GPU 训练工作。Meta 为分布式 AI 训练建立专用后端网络，训练集群依赖前端和后端两个独立网络，前端用于数据摄取等任务，后端用于训练，后端结构以无阻塞架构连接所有 RDMA 网卡，提供高带宽、低延迟和无损传输。为应对 LLM 模型训练对 GPU 规模的需求，Meta 设计了聚合训练交换机层，并优化路由、拥塞控制等以提升网络性能。
