用 Amazon SageMaker JumpStart 部署并评测模型
Amazon SageMaker JumpStart 提供了一套可复用的 Python 脚本流程,用于部署模型、用示例提示词测试并测量延迟与单请求生成速率,测试完成后删除端点。
Amazon SageMaker JumpStart 提供了一套可复用的 Python 脚本流程,用于部署模型、用示例提示词测试并测量延迟与单请求生成速率,测试完成后删除端点。
Liquid AI 发布 LFM2.5-24B-A2B,一个总参数 24B、每 token 仅激活 2B 的推理模型,面向端侧私有智能体,会在回答前生成显式思维链并调用工具。
推荐理由:LFM2.5-24B-A2B 以 2B 激活参数在工具调用与指令遵循上对标更大 MoE,并给出端侧与 GPU 推理速度数据。
NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,最高 128GB 统一内存、1 petaflop AI 算力,并同步推出面向本地智能体的软件与模型更新。
推荐理由:围绕 RTX Spark 笔记本上市,梳理本地智能体、创作与开发工具链的配套更新,可据此判断本地 AI 工作流的可用程度。
作者借助 HuggingChat 中的 ML Intern,在两天内训练并发布了六个模型,包括柑橘病害识别、Huggy LoRA、相机角度 LoRA、涂鸦替换 LoRA、Pocket Rewriter 和 Agate 4-step 蒸馏模型,总计算成本约 103 美元。
推荐理由:作者用 ML Intern 在两天内做出六个模型,给出了提示词写法、预算控制和基线对比等可复用细节。
英伟达团队从 Nemotron 3 出发,用 SFT、RL 和生成-验证-改进的推理流程打造专业模型,在 IOI 2026 与 IMO 2026 双双达到金牌线。
推荐理由:原文公开了从 Nemotron 3 微调到 IOI、IMO 金牌级成绩的完整配方与数据集,可迁移到其他专业领域。
微软 Copilot Studio 团队与 Hugging Face 联合发布 ThinkingBox 智能体评测基准,通过隔离的 MCP 工具会话运行任务,只根据智能体留下的后端终态和副作用打分,而非其生成的文字。
推荐理由:微软与 Hugging Face 联合发布的智能体评测基准,用数据库终态而非模型自述来判定任务成败,并给出 20 次重复下的稳定性与成本数据。
Hugging Face 发布 Open TTS Leaderboard,用客观指标评测开源多语言 TTS 与声音克隆模型,单模型评测耗时从数周投票缩短到数小时。