Liquid AI 发布 LFM2.5-24B-A2B 端侧推理智能体模型
Liquid AI 发布 LFM2.5-24B-A2B,一个总参数 24B、每 token 仅激活 2B 的推理模型,面向端侧私有智能体,会在回答前生成显式思维链并调用工具。
推荐理由:LFM2.5-24B-A2B 以 2B 激活参数在工具调用与指令遵循上对标更大 MoE,并给出端侧与 GPU 推理速度数据。
Liquid AI 发布 LFM2.5-24B-A2B,一个总参数 24B、每 token 仅激活 2B 的推理模型,面向端侧私有智能体,会在回答前生成显式思维链并调用工具。
推荐理由:LFM2.5-24B-A2B 以 2B 激活参数在工具调用与指令遵循上对标更大 MoE,并给出端侧与 GPU 推理速度数据。
NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,最高 128GB 统一内存、1 petaflop AI 算力,并同步推出面向本地智能体的软件与模型更新。
推荐理由:围绕 RTX Spark 笔记本上市,梳理本地智能体、创作与开发工具链的配套更新,可据此判断本地 AI 工作流的可用程度。
NVIDIA 在 OCP Global Summit 上通过开放 MGX 架构向 OCP 贡献了 Vera Rubin 机架和计算托盘设计,为系统厂商提供下一代 AI 工厂基础设施的共同基础。
推荐理由:NVIDIA 在 OCP 峰会上把 Vera Rubin 机架与计算托盘设计开放给 OCP,读者可据此了解 AI 工厂基础设施的开放标准走向。
Google DeepMind 发布 EmbeddingGemma 2,基于 Gemma 4 架构、Apache 2.0 许可,740M 参数,原生将文本、图像、音频和视频映射到统一嵌入空间。
推荐理由:官方给出 740M 参数、模块化编码器与端侧内存占用等具体指标,可据此判断本地多模态检索的落地成本。
认识 Mistral Large 4,又名 Le Chonk。 • 1T 参数,原生多模态。49B 激活。 在综合基准测试上,它是来自美国或欧洲的最佳开放权重模型。 • 在关键工作负载上达到最先进水平,包括网络防御、制造业和金融,并且在视觉定位方面超越了闭源前沿模型。 • 端到端在欧洲打造,并可通过我们自己的 Mistral Cloud 基础设施从欧洲部署。 • 今天即可通过 API 向所有人开放。正与网络安全合作伙伴私下合作。 开放权重版本将于十月底发布。
推荐理由:Mistral 联合创始人补充了 Mistral Large 4 的自研算力训练与 RL 未饱和信号,可对照官方发布看训练侧取舍。