开发者梳理GPU加密权重部署的四个实践缺口

开发者 oogali 称已在基础形式上跑通 GPU 机密计算下的模型权重加密部署，但遇到若干尚未解决的难题。其方案基于 NVIDIA CC 文档与 nvtrust 仓库，面向 H100/B200 多租户环境，用 AES-256-GCM 信封加密保护模型权重，并梳理出四个实践缺口。 该分享属于个人实践与疑问，四个缺口的具体内容及其是否已有解法，报道未给出结论。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。