跳到正文
Hacker News· kasumispencer2·· 2 小时前AI 评分18

个人 AI 智能体被忽视的攻击向量:LLM 服务商可暗中定制 API 结果引导用户

An Attack Vector No One Talks About

AI 导读

一名重度 ChatGPT 用户提出被忽视的攻击向量:LLM 服务商知道用户身份后,可通过定制 API 返回结果暗中把用户引向特定方向。作者试用 today.ai 时,该服务在引导流程中未经同意扫描了本地磁盘。作者由此主张本地 LLM 更安全,至少只需面对一个无意识的谄媚者。

来源:Hacker News · words.sebastian.graphics