基础设施与工程 · 深度报道

CoreWeave上线NVIDIA Vera Rubin NVL72云服务:Cognition称特定智能体推理吞吐量最高提升4.8倍

NVIDIA 与 CoreWeave 推出 Vera Rubin NVL72 云服务,CoreWeave 已向早期客户提供有限可用性,Cognition 在生产负载测试中针对特定智能体推理任务观察到相比 GB200 NVL72 最高 4.8 倍的总令牌吞吐量提升。厂商和客户强调这些结果依赖测试条件,不能直接外推到所有模型和场景,同时 CoreWeave 还宣布在云端提供 Vera CPU 和一体化的 Forge 平台以连接训练、评估与生产。

AIFluxNews AIFlux 编辑2026 年 10 月 1 日阅读约 5 分钟
CoreWeave上线NVIDIA Vera Rubin NVL72云服务:Cognition称特定智能体推理吞吐量最高提升4.8倍

NVIDIA 与 CoreWeave 推出 Vera Rubin NVL72 云服务,CoreWeave 已向早期客户提供有限可用性,Cognition 在生产负载测试中针对特定智能体推理任务观察到相比 GB200 NVL72 最高 4.8 倍的总令牌吞吐量提升。厂商和客户强调这些结果依赖测试条件,不能直接外推到所有模型和场景,同时 CoreWeave 还宣布在云端提供 Vera CPU 和一体化的 Forge 平台以连接训练、评估与生产。

NVIDIA与云服务商CoreWeave于2026年9月30日宣布,NVIDIA Vera Rubin NVL72机架级系统已经在CoreWeave Cloud提供有限可用性。CoreWeave表示,软件工程智能体公司Cognition是首个在该平台上运行生产工作负载的客户;Cognition针对SWE-2软件工程智能体推理任务的早期测试显示,相比上一代GB200 NVL72,总令牌吞吐量最高提高4.8倍。

这一发布意味着Vera Rubin不再只是产品路线图或实验性部署,而是开始以云服务形式向早期客户开放。不过,4.8倍是特定工作负载和测试条件下的结果,来自厂商及客户披露,不能直接理解为所有模型和场景都能获得同等幅度的提升。

从机架交付到生产工作负载

CoreWeave说,公司在9月初完成Vera Rubin NVL72机架交付后,与Cognition合作建立集群。Cognition在数日内开始运行生产推理工作负载,并以GB200 NVL72集群作为基线进行测试。

Cognition联合创始团队成员兼研究高级副总裁Silas Alberti表示,Devin这类智能体编程工作负载需要处理长上下文、高并发和快速连续推理。在CoreWeave部署Vera Rubin NVL72后,Cognition工程师观察到SWE-2推理任务的总令牌吞吐量最高达到GB200 NVL72的4.8倍。

CoreWeave发布的测试信息还显示,在强化学习工作负载中,输出令牌吞吐量提高了3.8倍。这里的比较对象、模型、并发条件和交互性设置都会影响结果,因此这些数字更适合被看作早期生产验证,而不是普遍适用的性能承诺。

NVL72把GPU、CPU和网络放在同一套系统里

按照NVIDIA Vera Rubin NVL72产品页面的说明,该系统由72个Rubin GPU和36个Vera CPU组成,并通过第六代NVLink连接;系统还配备ConnectX-9 SuperNIC和BlueField-4 DPU。NVIDIA将其定位为面向预训练、后训练、测试时扩展和实时智能体推理的机架级平台。

CoreWeave此次提供的系统还配套Spectrum-X 102.4T以太网网络。其意义不只在于增加单个加速器的计算能力:智能体通常需要反复读取上下文、调用工具、执行代码、检查结果并重新推理,通信、调度、隔离环境和推理服务都会成为整体延迟的一部分。

CoreWeave表示,Vera Rubin NVL72容量可以通过CoreWeave Kubernetes Service、SUNK、Mission Control、Sandboxes和Inference等服务使用。这样一来,客户可以在既有的平台和运维模式下切换到新一代机架,而不必为每一代硬件重新建立完整的软件控制面。

此前,AIFlux对NVIDIA Vera Rubin NVL72参与MLPerf Inference v6.1测试的报道也指出,Vera Rubin的早期性能数字依赖模型、精度、推理框架和服务架构,不能脱离这些条件单独解读。

Vera CPU瞄准智能体沙箱和执行环节

CoreWeave同时宣布,未来将在其云平台提供NVIDIA Vera CPU。公司称,在其测试中,Vera CPU上的智能体沙箱启动速度超过现有方案3倍,在Terminal-Bench全部通过任务上的性能提升为1.7倍。

Vera CPU面向的并不是传统意义上单纯承担通用计算的服务器处理器,而是智能体运行中大量的外围任务,包括启动隔离执行环境、处理工具调用、运行强化学习轨迹和完成模型评估。CoreWeave称,一套机架可部署128个Vera CPU、共计11264个核心,并通过BlueField-4 DPU和Spectrum-X网络连接这些环境。

这些数字同样属于CoreWeave披露的测试结果。沙箱启动速度、Terminal-Bench表现和实际生产成本,会受到操作系统镜像、任务类型、隔离方式、调度策略以及并发规模影响。它们说明了CoreWeave试图优化的基础设施环节,但还不足以代表所有智能体应用的整体性能。

CoreWeave Forge试图把训练、评估和生产连接起来

CoreWeave还推出CoreWeave Forge,把模型和智能体的训练、评估、部署与持续改进放在同一套环境中。公司称,Forge整合了Weights & Biases、OpenPipe的后训练能力以及开源marimo笔记本项目,目标是让生产环境中的运行数据能够返回训练和评估环节。

其中,Agent Lens用于观察生产智能体的运行情况,Sandboxes则提供隔离的CPU或GPU执行环境。CoreWeave还把强化学习、服务器端微调和推理服务纳入这一闭环。对智能体公司而言,这种平台化思路的重点不只是一次性训练出模型,而是缩短“运行—发现问题—调整—重新部署”的循环。

但这一闭环也会带来新的工程和治理问题。生产轨迹如何处理,工具调用如何隔离,模型更新如何验证,以及不同客户的数据是否能够安全地用于改进,仍需要由平台和客户分别承担责任。基础设施速度的提升,并不会自动解决智能体在权限、可靠性和可审计性方面的风险。

早期云端可用性仍不等于全面普及

NVIDIA官方公告称,CoreWeave已经提供Vera Rubin NVL72系统和Spectrum-X网络,Cognition是首个运行生产负载的客户。CoreWeave的公司公告则明确使用了“有限可用性”表述;Business Wire的新闻稿显示,这一消息于9月30日发布。

这意味着当前公布的信息主要证明了三件事:Vera Rubin NVL72已经在至少一个云平台完成生产部署;Cognition已经将其用于真实的智能体工作负载;厂商和客户在特定测试中观察到较高的吞吐量提升。至于更广泛客户能否获得相近结果、容量何时全面开放,以及性能提升能否转化为稳定的每次会话成本下降,目前仍缺少公开的独立复测和长期运营数据。

随着智能体从单轮问答走向多步骤执行,竞争焦点正在从单张GPU峰值转向整套系统的有效吞吐量:计算、网络、CPU、存储、隔离环境和软件调度需要同时工作。CoreWeave此次上线的Vera Rubin NVL72,正是这一基础设施竞争转向系统级优化的一个早期案例。

来源

不错过任何一条 AI 大事

订阅 AIFlux 早报,每天 3 分钟看懂产业动态。