跳到正文

技术方向

安全对齐 最新动态

AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。

63 条精选近 30 天 63 条共收录 560 条

更新

精选归档 · 第 4 页

10月2日周五第 61–63 条
  1. Google Research62

    Google 发布基于 TEE 的新一代联邦学习系统,实现可验证的隐私保护

    Google 发布新一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供可远程验证、可审计的端到端保证,并已在 Gboard 上线英语和日语下一词预测模型。

    推荐理由:Google 公布基于 TEE 的新一代联邦学习系统设计,读者可了解其如何让数据匿名化过程可被外部验证。

9月30日周三
  1. Google DeepMind66

    Google DeepMind 推出 SynthID Bio,为 AI 生成蛋白质嵌入水印

    Google DeepMind 推出 SynthID Bio,将水印技术引入合成生物学,把不可感知的签名直接嵌入生物代码,使水印不仅能在数字模型上验证,也能在合成出的实体蛋白质上验证,同时保持其生物功能。

    推荐理由:SynthID 水印从图像扩展到合成生物学,读者可了解 AI 生成蛋白质如何在保留功能的前提下被标记与筛查。

9月25日周五
  1. GitHub Blog · AI & ML62

    GitHub Security Lab 发布 Fuzzing Taskflow 智能体流水线

    GitHub Security Lab 发布 Fuzzing Taskflow,一个面向 C/C++ 项目的自主模糊测试流水线,只需指向一个 GitHub 仓库,智能体便会自动识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness,最后对每个崩溃去重并生成漏洞报告。

    推荐理由:原文完整披露了自主模糊测试流水线的分层架构与覆盖率反馈机制,可迁移到其他安全自动化场景。