跳到正文
Hacker News· surprisetalk·· 2 小时前AI 评分67

Anthropic 公布反蒸馏防御新方法,称蒸馏数据获取量下降 90% 至 99%

Strengthening our defenses against distillation attacks

AI 导读

Anthropic 公布针对 Claude 的反蒸馏防御新方法,早期证据显示蒸馏者获取的数据量减少约 90% 至 99%。新防御包括限制推理内容流向、用两阶段分类器拦截提取请求,以及在部分场景对拦截请求恢复计费。Anthropic 称已封禁数万个相关账号,但也承认这些措施要求部分开发者更新集成,且分类器误判率低于 0.1%。

来源:Hacker News · anthropic.com