Amazon SageMaker AI 上的 MoE 内核工程优化实践
针对 MoE 模型在解码阶段的计算瓶颈,AWS 在 Amazon SageMaker AI 上通过 Swap-AB 转置让专家维度 N=8192 进入 WGMMA 首操作数位,在 H200 上实现端到端输出吞吐提升 2–4%,该优化已合入 vLLM 0.24.0 及更高版本。
针对 MoE 模型在解码阶段的计算瓶颈,AWS 在 Amazon SageMaker AI 上通过 Swap-AB 转置让专家维度 N=8192 进入 WGMMA 首操作数位,在 H200 上实现端到端输出吞吐提升 2–4%,该优化已合入 vLLM 0.24.0 及更高版本。
Google Research 在 Research@ 活动上公布 10 项研究进展,包括扩展 Google Earth AI 早期访问并开放三项实验能力,以及向公众开放 Deep Review 用于核查法律协议、财务报告等技术文档。TimesFM 与 TabFM 两个数值基础模型将集成进 Gemini for business,此前已面向所有 Cloud BigQuery 用户开放。
Google 公开发布智能体系统 Deep Review,为复杂文档提供技术验证与反馈,最初面向计算机科学论文,现已扩展到法律、金融等领域。每位用户每周可免费获得两次文档审阅,也可接入 Gemini API key 提升额度并通过 Deep Review API 集成,目前支持 PDF 和纯文本输入。
推荐理由:Google 公开了 Deep Review 的四阶段智能体审稿流程与免费额度,读者可据此判断自动技术审阅的可用边界。
Liquid AI 发布 LFM2.5-24B-A2B,一个总参数 24B、每 token 仅激活 2B 的推理模型,面向端侧私有智能体,会在回答前生成显式思维链并调用工具。
推荐理由:LFM2.5-24B-A2B 以 2B 激活参数在工具调用与指令遵循上对标更大 MoE,并给出端侧与 GPU 推理速度数据。
Google DeepMind 发布面向机器人的 Gemini 4 Argon,主打物理理解、代码生成与视觉语义推理,在 Embodied Reasoning(ERQA)基准上以纯推理取得 87%,称超过其他前沿模型。
Google DeepMind 发布 Gemini 4 Argon,面向开发者、企业和消费者开放,通过 AI Studio、Gemini API、Google Antigravity、Gemini 应用和 Search 的 AI Mode 提供,入门价每百万输入 token 2 美元、输出 token 10 美元,缓存输入享 95% 折扣。
推荐理由:官方给出 Argon 在编码、科研与安全上的具体案例和定价,可据此判断前沿模型落地方式的变化。
英伟达团队从 Nemotron 3 出发,用 SFT、RL 和生成-验证-改进的推理流程打造专业模型,在 IOI 2026 与 IMO 2026 双双达到金牌线。
推荐理由:原文公开了从 Nemotron 3 微调到 IOI、IMO 金牌级成绩的完整配方与数据集,可迁移到其他专业领域。
Microsoft 合伙人研究经理 Jennifer Neville 在 Microsoft Research Podcast 中讨论评测如何推动 AI 系统突破传统 benchmark 的性能边界,以及模型在超出常规评测时出现的"意外失败"。她结合自身从数学、物理、认知科学转向计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细审视数据。
Mistral 发布 Mistral Large 4 公开预览,这是一个 1 万亿参数、52B 激活参数的原生多模态模型,可在 Mistral Studio 试用预览 API,权重将于本月底发布。
推荐理由:官方给出 1 万亿参数、52B 激活的开放权重模型在编码、智能体与多模态上的具体基准,可据此判断开放权重模型当前的位置。
Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,随后逐步扩展至开发者、企业和消费者,起步价每百万输入 token 2 美元、输出 token 10 美元,缓存输入按输入价 95% 折扣计费。
推荐理由:官方给出 Argon 在编码、企业知识与网络安全上的基准表现和定价,可据此判断前沿模型的落地边界。
Berkeley AI Research 与 IBM Research 将进化式内核搜索框架 K-Search 扩展到 MLX,通过结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核经验适配 Apple Silicon。
推荐理由:原文给出 CUDA 到 MLX 的翻译层设计与两组内核实测数据,可了解跨硬件迁移优化知识的具体做法。
Berkeley AI Research 提出 ABBEL 框架,将 LLM 的摘要内容隔离为自然语言"信念状态"并加以监督,替代完整交互历史作为智能体的工作上下文。在 CollabBench 协作编程任务中,基于重构的信念评分(rec-BG)将 ABBEL 与全上下文模型的性能差距缩小约 50%,训练步数从 100 步降至 50 步,峰值 token 长度也显著低于全上下文设置。
伯克利 AI 研究团队梳理了并行推理领域进展,指出当前多数方法(如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild!
伯克利 AI 研究团队提出 GRASP,一种面向学习型世界模型的基于梯度的规划器,通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代上直接加入随机性以探索、并重塑梯度让动作获得清晰信号,同时避开高维视觉模型中脆弱的"状态输入"梯度。该方法针对长时程规划中优化病态、非贪婪结构导致局部极小值以及高维潜空间失效模式等问题,使长时程规划更稳健。
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,用于在大规模 LLM 中识别驱动模型输出的关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题,ProxySPEX 进一步借助层级结构,以约 10 倍更少的消融达到 SPEX 的性能。