Hacker News· matt_d·· 2 小时前AI 评分42
在 B300 上把 CUDA Checkpointing 提速 15 倍:一份工作日志
Making CUDA Checkpointing 15x Faster on a B300: A Worklog
AI 导读
在 B300 上对 vLLM 运行的 GLM-5.3-flash(每 rank 约 172.74 GB)做 CUDA checkpoint 与恢复,优化后整体提速达 15 倍。
来源:Hacker News · maknee.github.io