Google Cloud 与 NVIDIA 宣布 Vera Rubin 基础设施正式可用
Google Cloud and NVIDIA Announce General Availability of NVIDIA Vera Rubin Infrastructure
Google Cloud 与 NVIDIA 宣布基于 Vera Rubin 的 A5X 实例正式可用,下月开放并计划扩展至欧洲,整合 Vera Rubin NVL72、ConnectX-9 SuperNICs、Virgo 网络与第四代液冷,面向大规模智能体推理与强化学习。
原文给出 A5X 实例的可用时间、客户实测与机密计算配套,读者可据此判断智能体推理与强化学习负载的部署条件。
这些实例将于下个月正式全面上市,并计划将可用范围扩展至欧洲——为云客户带来一个集训练、推理和大规模强化学习于一体的集成平台。
A5X 实例将 NVIDIA Vera Rubin NVL72、NVIDIA ConnectX-9 SuperNIC、Google Cloud Virgo 网络以及 Google Cloud 第四代先进液冷技术整合在一起,用于大规模运行高要求的智能体推理和强化学习工作负载。Google Cloud 计划将其基于 Vera Rubin 的基础设施扩展至多个站点,最多部署 960,000 块 Rubin GPU。
Ineffable Intelligence 是一家总部位于伦敦的科技公司,由 AlphaGo 创造者 David Silver 创立,是首家使用 A5X 的客户。Ineffable 正在利用该平台推进大规模强化学习,并打造能够从经验中持续学习的“超级学习者”系统。
通过交互进行学习需要不断循环生成经验、评估结果并更新模型,这要求基础设施能够大规模支撑整个流程。A5X 将 Vera Rubin 作为集成系统引入 Google Cloud 的 AI Hypercomputer,整合计算、网络和存储,以支持大规模的经验驱动型学习。
“我们正在构建能够通过自身经验不断改进的超级学习者,”Ineffable Intelligence 创始人兼首席执行官 David Silver 表示。“这既需要大量算力,也需要在生成经验与基于经验进行训练之间建立紧密连接,使智能体的每一次改进都能迅速塑造其下一次经验。Vera Rubin 将计算性能与高带宽连接相结合——既包括 Vera CPU 与 Rubin GPU 之间,也包括机架内 Rubin GPU 之间——这使我们能够进一步拓展强化学习研究的规模和雄心。”
总部位于伦敦的营销与传播公司 WPP 也已使用 NVIDIA Nemotron 模型和 NVIDIA OpenShell,在基于 NVIDIA Vera Rubin 的 A5X 实例上展示了其创意智能体参考架构。OpenShell 是用于安全 AI 智能体的 NVIDIA OpenShell 参考架构的一部分。
这些智能体将对话式请求转化为多步骤创意工作流,例如视频生成、放大和风格重塑,并在执行前获得人工批准。OpenShell 为智能体执行提供受治理的沙箱,帮助控制对敏感品牌资产和创意工具的访问。在 WPP 的初步测试中,通常需要多节点集群的工作负载在单个 A5X 实例上即可运行。
随着各组织部署智能体系统,它们需要保护驱动这些系统的专有模型和敏感数据——即使运行在并非自身拥有的基础设施上也是如此。
Google Cloud 将成为首批在裸金属实例上以机架规模提供 NVIDIA 机密计算 的云服务提供商之一,这些实例包括由 NVIDIA GB300 NVL72 驱动的 A4X Max 实例。此外,Google Cloud 正在由 NVIDIA RTX PRO 6000 Blackwell 服务器版 GPU 驱动的 G4 虚拟机上正式提供机密计算(generally available),为机密推理和微调提供灵活的平台。包括 Vertebrae、Polaris Cloud 和 Confidential Core AI 在内的客户正在使用 Confidential G4 实现对话隐私、可验证的智能体执行以及受策略治理的企业智能。
为支持大规模能效部署,Google Cloud 与 NVIDIA 正在探索面向基于 Vera Rubin 的基础设施的 NVIDIA DSX MaxLPS 能力,以帮助优化每瓦性能,并在可用数据中心电力预算内扩展容量。
了解更多 关于 NVIDIA Vera Rubin 和 Google Cloud A5X 实例的信息。
来源:NVIDIA Blog · blogs.nvidia.com