Lupine 称 GPU 检查点方案将 32B 模型冷启动降至 1.1 秒

Lupine 工程团队公布 GPU 检查点/恢复方案，称在 vLLM 上冷启动 Qwen3-0.6B 仅需 0.15 秒、Qwen3-32B 仅需 1.1 秒。作为对比，该团队称传统 GPU 快照启动 0.6B 模型仍需 13 到 17 秒。 上述数字均为该团队自行公布的基准结果，尚未见独立验证。

AI 根据报道生成 · 39 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。