跳到正文
Hacker News· pretext·· 2 小时前AI 评分40

NVIDIA 如何通过协同设计最大化 AI 工厂中每个字节的价值

Five Ways Nvidia Co-Design Maximizes the Value of Every Byte in the AI Factory

AI 导读

NVIDIA 称从 GB300 NVL72 到 Vera Rubin NVL72,HBM 容量维持 288 GB 不变,但在 SemiAnalysis AgentX 上每兆瓦吞吐量最高提升 30 倍(160 tokens/s/用户)。

来源:Hacker News · developer.nvidia.com