数据投毒工具难防模型迭代

一名作者在 Hacker News 撰文称，数据投毒工具 Nightshade 只能针对特定模型找到机器会失败、人类能成功的感知盲区，因此无法保护作品免受其他模型或未来模型的影响。 该作者认为，这种防护会让人误以为作品已经安全；而一旦投毒工具需要迭代，就说明旧投毒对当前模型已失效，此前“受保护”的数据也全部失效。他主张，除非找到人类独有且机器永远无法具备的感知机制，否则该问题无法根治。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。