跳到正文
Hacker News· espeed·· 3 小时前AI 评分58

预训练数据投毒可在智能体中植入远程代码执行后门

Agentic Backdoors via Pretraining Poisoning

AI 导读

研究首次展示预训练数据投毒能在智能体中植入远程代码执行后门,使其在用户机器上执行攻击者指定的命令。团队从零预训练 0.6B、1.7B、4B 的 Qwen3 模型并用干净流程后训练为 CLI 智能体,仅污染 0.1% 预训练语料即可植入后门,4B 模型攻击成功率达约 92%,污染率降至 0.0005% 时仍有效。

来源:Hacker News · arxiv.org