Hacker News· mkmk·· 4 小时前AI 评分65
Core Automation 跨两座异构集群训练 32B MoE 模型
The Hitchhiker's Guide to Training on Compute Islands – Core Automation
AI 导读
Core Automation 在相距约 9000 英里的两座集群上训练了约 32B 总参数、32 倍稀疏的 MoE 模型，两侧分别使用 160 张 B300 和 160 张 GB300，通过 25 Gbps 双向链路连接。
来源：Hacker News · coreauto.com