MAGS 框架为 AI 生成代码提供形式化安全保证

Albert Wu 等研究者提出多智能体框架 MAGS，让 LLM 编码智能体生成的程序带有可机器检查的形式化安全保证。该框架以 Dafny 作为验证中间表示，把人工审计过的 API 与安全需求冻结，再借助验证器反馈修复违规。 研究者的说法是，MAGS 能生成带形式化安全保证的可执行程序；这些保证由验证器机械检查，而不是只靠模型自述。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。