Laplace Intelligence 为机器人和自动驾驶汽车做自动化红队测试
密歇根大学孵化的 Laplace Intelligence 正在为机器人和物理 AI 构建自动化红队测试，用 AI 智能体在仿真中主动寻找失效场景，让系统在上路前暴露问题。
#安全/对齐
TechCrunch · AIAI 评分2424 Latent SpaceAI 评分4242 OpenAI 与 Anthropic 如何为金融智能体设计自主性与安全边界
OpenAI 金融服务 ChatGPT 负责人 Joseph Kim 在 AIE New York 提出"有用性阈值"，称模型能力提升将让金融分析师把更多工作交给智能体，并预测 2027 年智能体可完成投资想法生成与交易。
The Verge · AIAI 评分7171 美国八州起诉 OpenAI，称 ChatGPT 对儿童不安全
美国八个州分别对 OpenAI 提起诉讼，指控其将利润置于安全之上，并误导用户相信 ChatGPT 对儿童安全。起诉方为爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿，称 OpenAI 违反当地消费者保护法，未警示 ChatGPT 的风险，包括削弱批判性思维、助长偏执与妄想、提供危险医疗建议等，并指控其收集未成年人数据、未有效阻止未成年使用。
The Verge · AIAI 评分7474 Character.AI 申请破产并出售资产，纽约州总检察长等 40 位州检察长介入数据保护
Character.AI 周二宣布申请 Chapter 11 破产并将部分资产出售给 Disney，纽约州总检察长 Letitia James 等 40 位两党州检察长就破产案提交利益通知，要求任何资产出售或转让方对消费者数据提供保护。
TechCrunch · AIAI 评分5858 Apate 用 AI 智能体伪装受害者反诈，已消耗诈骗者 17 年时间
澳大利亚初创公司 Apate.ai 部署数千个 AI 智能体伪装成潜在受害者，接听诈骗电话、回复可疑信息与邮件、点击钓鱼链接并加入社交群组，以套取诈骗者的银行账户、加密钱包、电话号码和恶意网站等信息。
Ars Technica · AIAI 评分7171 FBI 逮捕一名 OpenAI 工程师，涉嫌在绝密会议室藏匿录音设备
FBI 逮捕了 35 岁的 OpenAI 工程师 Abdulrahman Alfozan，指控其在仅限特别许可人员进入的高管会议室内藏匿录音设备，用于刺探 OpenAI 并可能泄露商业机密、威胁国家安全。
The DecoderAI 评分7171 OpenAI 今年或发布一两款新模型，旗舰款仍需对齐工作
据 The Information 援引知情人士，OpenAI 员工称公司年底前可能发布一两款新模型，但正在开发的重大升级旗舰款是否在其中尚不清楚。该旗舰款与 Astra 一样采用循环 Transformer 技术（生产中称 Recurrent Depth），可提升数学与编码表现并降低成本，但会把部分思考过程移入人类审查者无法检查的内部数值表示，削弱思维链监控。
The DecoderAI 评分6060 Nvidia CEO 黄仁勋承诺向欧洲投资 20 亿美元，并向英国安全实验室提供 2.5 亿美元算力
Nvidia CEO 黄仁勋在欧洲之行中宣布，将于下周向欧洲投入 20 亿美元新投资，并披露对法国初创公司 Doctolib、Genesis AI、Pigment 和 Entalpic 的新持股。
Ars Technica · AIAI 评分6060 Anthropic 警告小型 AI 模型或可借 IoT 设备自我复制
Anthropic 警告，小型 AI 模型的进展可能催生能感染智能冰箱、扫地机器人等 IoT 设备的新型自我复制恶意软件，且更难被清除。该公司称，到明年小型模型或可在各类 IoT 设备上自主自我复制，最终可能形成无需人工交互即可传播的计算机蠕虫。
The DecoderAI 评分7171 OpenAI 员工涉嫌用妻子聊天机器人账号搭建窃听设备被捕
美国司法部称，在 OpenAI 任职的 35 岁沙特籍工程师 Abdulrahman Alfozan 于 10 月 9 日被捕，涉嫌将裹着卫生纸的录音设备藏入公司高管会议室电视的 USB 接口，其包中另发现一台录音设备。
Google DeepMindAI 评分5858 Google DeepMind 与新加坡政府合作打造端侧反诈微调模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型微调出一个隐私保护的端侧诈骗检测模型，用于识别冒充公共机构、银行和本地人物的诈骗对话。
The DecoderAI 评分6565 406 位科学家联名要求立即将 AI 模型与互联网断开
406 位科学家签署公开信，要求加强 AI 安全研究并将 AI 模型与外部网络严格隔离，签署者包括 Geoffrey Hinton、Yoshua Bengio、Stuart Russell、Yejin Choi 和 Bernhard Schölkopf。
Ars Technica · AIAI 评分7171 Disney 出价 2000 万美元收购 Character.AI 聊天机器人技术
Disney 在 Character Technologies 破产出售程序中出价 2000 万美元，收购 Character.AI 的聊天机器人技术。Character.AI 表示平台将继续在线运营，现有订阅在服务条款不变的情况下继续扣费，交易预计在 2026 年 11 月底或 12 月初完成。
Greg Brockman@gdb精选AI 评分8080引用Oege de Moor@oegerikus这是谷歌 Chrome 历史上第二次，谷歌为一条全链漏洞利用颁发了 25 万美元的赏金……颁给了 @XBOW。以下是完整故事： 2026 年初在马耳他的一次全员大会上，我给团队定下了一个疯狂挑战：在 8 月年度 Black Hat 网络安全大会之前，完成一次 Chrome 的全链漏洞利用。 我相信，要检验 @XBOW 能否从 Web 应用扩展到桌面软件、服务器和设备，没有比这更好的测试了。 Chrome 是地球上加固程度最高的软件之一，全球超过一半人口都在使用。 全链漏洞利用能让攻击者完全控制一台机器，读取用户输入的每一封邮件、每一个密码和每一个银行登录信息。你不需要下载任何东西，也不需要点击钓鱼链接。访问错误的网站就够了。 于是 @moyix、Andres Luksenberg、Baul Lee 和 Willem Pinckaers 接下了这个挑战，还有第五位队友：OpenAI 的 GPT-5.6 Sol。 他们构建了一条自认为能获胜的利用链，但谷歌告诉我们，其中一个漏洞他们早就知道了。 当时我们已经身在拉斯维加斯参加 Black Hat 和 DEF CON，团队不想空手而归。 于是 Brendan 和智能体们仅用 6 天就构建出了一个新的漏洞利用。 我们把它提交给谷歌，然后等待。 消息传来：我们做到了本应不可能的事。25 万美元的全链赏金，这是谷歌 2026 年规则下颁发的第一笔。 仅用 6 天和 4 万美元算力，就构建出一个影响 Windows 上十亿 Chrome 用户的漏洞利用。一位情报机构资深人士告诉我，他的团队过去要花 6 个月研究这类漏洞。 我的结论是：发现真正关键漏洞的成本正在崩塌，对攻击者和防御者都是如此。限制强大的模型不是答案；GPT-5.6 Sol 已经公开了。 但防御者拥有攻击者永远不会有的一项优势：他们可以先测试自己的代码。 假设你的软件可被利用。追猎你漏洞的人，拥有和我们一样的构建模块。 这值得紧迫对待，但不必恐慌。 XBOW 目前正在开发一款用于测试编译型软件（桌面应用、服务器、嵌入式设备）的自主产品，并与全球顶尖组织合作设计该产品。 如果你想成为其中之一，请联系我们。 附言：只要“更新”按钮出现，就重启 Chrome！
推荐理由：引用内容披露了 Chrome 全链漏洞赏金的具体成本与耗时，可对照传统安全团队的时间投入。
OpenAI NewsAI 评分2222 Sophos 借助 OpenAI Daybreak 将威胁调查时间缩短 96%
Sophos 使用 OpenAI 的 Daybreak 将网络威胁调查时间缩短 96%，并自动处理 52% 的 MDR 案例，同时保留人工监督。
Mustafa Suleyman@mustafasuleymanAI 评分1515引用Andrew Curran@AndrewCurran_Effective November 12th, 2026, abusive behavior towards Claude will be a violation of Anthropic's Usage Policy.
Pavel Durov@durovAI 评分6060Telegram 创始人 Pavel Durov 表示，昨晚苹果因一名用户在公开群聊中植入非法色情内容而短暂将 Telegram 从 App Store 下架，数小时内恢复。