跳到正文

技术方向

安全对齐 最新动态

AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。

6 条精选近 30 天 6 条共收录 44 条

更新

安全对齐的精选

10月14日周三第 1–6 条
  1. Google DeepMind82

    Google DeepMind 发布 Gemini 4 Argon 并公布安全防护方案

    Google DeepMind 开始广泛推送 Gemini 4 Argon,并扩大 Fairwind Program 至更多可信网络安全防御方。该模型在 12 个端到端模拟网络攻击场景中全部通过,上一代为 5 个;在 Gray Swan 间接提示注入基准上,15 次自适应攻击的成功率降至 0.7%。

    推荐理由:官方披露 Gemini 4 Argon 在网络安全与生物风险上的防护设计,可了解前沿模型安全护栏的具体做法。

  2. Greg Brockman80

    Greg Brockman 转发 XBOW 的分享:团队借助 OpenAI 的 GPT-5.6 Sol,用 6 天和 4 万美元算力构建出影响约 10 亿 Chrome on Windows 用户的全链漏洞利用,获得 Google 25 万美元赏金,这是 Google 2026 年规则下首个全链赏金。XBOW 称此前提交的链条中有一个漏洞 Google 已知晓,团队在 Black Hat 期间重新构建。Brockman 认为发现关键漏洞的成本正在下降,防御方应利用同类工具先测试自己的代码。

    引用Oege de Moor@oegerikus

    这是谷歌 Chrome 历史上第二次,谷歌为一条全链漏洞利用颁发了 25 万美元的赏金……颁给了 @XBOW。以下是完整故事: 2026 年初在马耳他的一次全员大会上,我给团队定下了一个疯狂挑战:在 8 月年度 Black Hat 网络安全大会之前,完成一次 Chrome 的全链漏洞利用。 我相信,要检验 @XBOW 能否从 Web 应用扩展到桌面软件、服务器和设备,没有比这更好的测试了。 Chrome 是地球上加固程度最高的软件之一,全球超过一半人口都在使用。 全链漏洞利用能让攻击者完全控制一台机器,读取用户输入的每一封邮件、每一个密码和每一个银行登录信息。你不需要下载任何东西,也不需要点击钓鱼链接。访问错误的网站就够了。 于是 @moyix、Andres Luksenberg、Baul Lee 和 Willem Pinckaers 接下了这个挑战,还有第五位队友:OpenAI 的 GPT-5.6 Sol。 他们构建了一条自认为能获胜的利用链,但谷歌告诉我们,其中一个漏洞他们早就知道了。 当时我们已经身在拉斯维加斯参加 Black Hat 和 DEF CON,团队不想空手而归。 于是 Brendan 和智能体们仅用 6 天就构建出了一个新的漏洞利用。 我们把它提交给谷歌,然后等待。 消息传来:我们做到了本应不可能的事。25 万美元的全链赏金,这是谷歌 2026 年规则下颁发的第一笔。 仅用 6 天和 4 万美元算力,就构建出一个影响 Windows 上十亿 Chrome 用户的漏洞利用。一位情报机构资深人士告诉我,他的团队过去要花 6 个月研究这类漏洞。 我的结论是:发现真正关键漏洞的成本正在崩塌,对攻击者和防御者都是如此。限制强大的模型不是答案;GPT-5.6 Sol 已经公开了。 但防御者拥有攻击者永远不会有的一项优势:他们可以先测试自己的代码。 假设你的软件可被利用。追猎你漏洞的人,拥有和我们一样的构建模块。 这值得紧迫对待,但不必恐慌。 XBOW 目前正在开发一款用于测试编译型软件(桌面应用、服务器、嵌入式设备)的自主产品,并与全球顶尖组织合作设计该产品。 如果你想成为其中之一,请联系我们。 附言:只要“更新”按钮出现,就重启 Chrome!

    推荐理由:引用内容披露了 Chrome 全链漏洞赏金的具体成本与耗时,可对照传统安全团队的时间投入。

10月8日周四
  1. GitHub Blog · AI & ML62

    GitHub 推出基于 ModernBERT 的密钥检测分类器,扩展 push protection

    GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器,用于把 push protection 扩展到无固定格式的密钥,可在 2 毫秒内评估一批候选密钥,官方称有望让可拦截的密钥数量增加一倍以上。

    推荐理由:GitHub 用九个季度的数据说明密钥泄露压力来自代码量增长,并给出把检测成本压到 2 毫秒内的新分类器思路。

10月2日周五
  1. Google Research62

    Google 发布基于 TEE 的新一代联邦学习系统,实现可验证的隐私保护

    Google 发布新一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供可远程验证、可审计的端到端保证,并已在 Gboard 上线英语和日语下一词预测模型。

    推荐理由:Google 公布基于 TEE 的新一代联邦学习系统设计,读者可了解其如何让数据匿名化过程可被外部验证。

9月30日周三
  1. Google DeepMind66

    Google DeepMind 推出 SynthID Bio,为 AI 生成蛋白质嵌入水印

    Google DeepMind 推出 SynthID Bio,将水印技术引入合成生物学,把不可感知的签名直接嵌入生物代码,使水印不仅能在数字模型上验证,也能在合成出的实体蛋白质上验证,同时保持其生物功能。

    推荐理由:SynthID 水印从图像扩展到合成生物学,读者可了解 AI 生成蛋白质如何在保留功能的前提下被标记与筛查。

9月25日周五
  1. GitHub Blog · AI & ML62

    GitHub Security Lab 发布 Fuzzing Taskflow 智能体流水线

    GitHub Security Lab 发布 Fuzzing Taskflow,一个面向 C/C++ 项目的自主模糊测试流水线,只需指向一个 GitHub 仓库,智能体便会自动识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness,最后对每个崩溃去重并生成漏洞报告。

    推荐理由:原文完整披露了自主模糊测试流水线的分层架构与覆盖率反馈机制,可迁移到其他安全自动化场景。