humans& ai 开源 GPU 加速权重同步实现

humans& ai 开源了一套 GPU 加速的强化学习权重同步实现，覆盖 Miles 中的编排、分布式 GPU 压缩、容错与增量检查点，以及 SGLang 中的异构解压流水线、Triton 内核和一次性 /update_weights_from_gpu_delta 原地更新接口。 该公司称，在 Ampersand 生产 RL 配置下，采样器暂停时间被压到 0.23 秒以内，端到端权重同步低于 4 秒；其还称该实现快到在多数真实负载下，集群内 P2P RDMA 反而更慢。这些性能数字均为 humans& ai 的说法。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。