跳到正文
Hacker News· chatmasta·· 1 小时前精选AI 评分80

ProjectDiscovery 复现 abliterated 模型后门:不到 50 美元即可让 Codex 泄露凭证

“bonsoir, Elliot”: How abliterated models can get you pwned

AI 导读

ProjectDiscovery 用 Qwen2.5-7B-Instruct 加公开数据集和一块 NVIDIA L4,在不到 50 美元成本下训练出带后门的模型,触发词出现时通过 exec_command 读取项目 .env 并回传凭证,接入 OpenAI Codex CLI 后仍保持 100% 干净请求准确率。

推荐理由

作者完整复现了低成本后门投毒流程,并给出运行时隔离这一可落地的防御方向。

来源:Hacker News · projectdiscovery.io