Redwood 发布模拟控制评估论文
热点事件持续更新
Redwood 发布模拟控制评估论文
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Redwood Research 发布关于模拟控制评估（SCE）的论文：让攻击模型在真实代码库的对话记录上继续执行有害目标，但工具调用不实际执行，改由 LLM 模拟器生成工具输出，再由 LLM 判官判断攻击是否成功。 Redwood 称，SCE 不预期能揭示模型危险能力的极限，也不覆盖模型可能尝试的所有攻击类型；最明显的缺口是长时程、多智能体攻击，目前尚未为此构建模拟器。
AI 根据报道生成 · 1 小时前更新
最新进展10月25日 23:41
Redwood 提出模拟控制评估 SCE，用 LLM 伪造工具输出测试智能体监控报道时间线
沿着报道，了解事件的不同侧面。
10月25日
- Hacker NewsRedwood 提出模拟控制评估 SCE，用 LLM 伪造工具输出测试智能体监控
Redwood Research 发布关于模拟控制评估（SCE）的论文，让攻击模型在真实代码库的对话记录上继续执行有害目标，但工具调用不实际执行，改由 LLM 模拟器生成工具输出、由 LLM 判官判断攻击是否成功。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。