Hacker News· ibobev·· 2 小时前AI 评分22
为什么数据投毒这个概念让我恼火
Why the Concept of Data Poisoning Annoys Me
AI 导读
数据投毒工具 Nightshade 只能针对特定模型找到机器会失败、人类能成功的感知盲区,因此无法保护数据免受其他模型或未来模型的影响。作者认为这种防护会让人误以为作品已安全,而一旦投毒工具需要迭代,就说明旧投毒对当前模型已失效,此前"受保护"的数据全部失效。他主张除非找到人类独有且机器永远无法具备的感知机制,否则该问题无法根治。
来源:Hacker News · blog.demofox.org