英伟达扩展 NVLink Fusion，推出 NVHBM 以重构定制 AI 芯片的内存架构

英伟达扩展 NVLink Fusion 并推出定制高带宽内存 NVHBM，将内存控制器移入 3D HBM 基底裸片，宣称可在特定架构下提升带宽、降低功耗并释放计算裸片面积；Annapurna Labs（AWS）成为首个合作方，推动 Trainium4 与英伟达 GPU 在机架级架构中协同。该技术仍需供应商验证与商业化时间表以观察实际效果。

英伟达于2026年8月26日宣布扩展 NVLink Fusion 平台，并推出定制高带宽内存技术 NVHBM（NVIDIA Custom High-Bandwidth Memory）。这项技术把内存控制器从 XPU 计算芯片迁移到三维 HBM 堆栈的基础裸片，英伟达称，在特定架构设计下，相较标准 HBM4E，NVHBM 可提供最高30%的内存带宽提升、降低15%的 HBM 功耗，并为 XPU 计算裸片释放最高25%的面积。

英伟达表示，NVHBM 将由多家内存供应商验证和提供。亚马逊旗下 Annapurna Labs 将成为首个与英伟达合作推进 NVHBM 的伙伴。双方的合作还将延伸到 NVLink Fusion 的机架级互联架构，Annapurna Labs 计划从下一代 Trainium4 开始支持 NVLink Fusion，使亚马逊自研芯片与英伟达 GPU 能够在共同的机架级架构中协同工作。

把内存控制器移入 HBM 基础裸片

传统 HBM 架构通常把内存控制器放在 XPU 计算裸片上。随着 AI 加速器需要连接更多内存堆栈，控制器、物理层接口和相关支持电路会占据计算芯片面积，也会增加封装和互连设计的复杂度。

英伟达此次公布的 NVHBM 方案，则把其定制内存控制器集成到3D HBM 堆栈的基础裸片中。按照英伟达的解释，计算芯片可以因此减少一部分内存控制相关的面积，把更多硅资源用于计算，同时降低 HBM 子系统的功耗。

公司给出的对比基准是标准 HBM4E。英伟达称，在特定架构条件下，NVHBM 的内存带宽最高可提高30%，HBM 功耗最高降低15%，XPU 计算裸片可释放最高25%的面积。这些数字是厂商披露的架构比较结果，目前尚未有独立机构针对广泛客户工作负载进行复测，因此不能直接理解为所有 AI 加速器都会获得同等幅度的提升。

英伟达还表示，正在建立一种标准化的 NVHBM 实现，并由多家内存供应商提供。对于定制芯片开发者而言，这种安排的目标是减少跨供应商的内存集成和验证工作，让不同项目不必完全从头开发内存接口和资格认证流程。

NVLink Fusion 从互联扩展到内存

NVLink Fusion 最初的定位，是让云服务商和 AI 公司把定制 XPU 或 CPU 接入英伟达的 AI 基础设施平台。其可复用的组件包括 NVLink 芯片、NVLink-C2C 芯片到芯片互联、NVLink Switch，以及 MGX 机架级系统和相关软件。

英伟达在 NVLink Fusion 平台介绍 中表示，该平台能够让定制 XPU 与英伟达 GPU 在同一数据中心采用统一的机架、网络、冷却、供电和管理系统。平台的核心思路不是要求云厂商放弃自研芯片，而是让不同类型的处理器在较为一致的基础设施中共同部署，以便根据训练、推理和其他工作负载进行组合。

此次加入 NVHBM 后，NVLink Fusion 覆盖的范围进一步向芯片内部和封装层延伸。对于 AI 加速器而言，高速互联、内存带宽和功耗并不是彼此独立的指标：内存控制器的位置会影响计算裸片面积，接口宽度会影响封装布线，功耗又会影响机架级系统的散热和供电设计。

这意味着，英伟达提供的不只是一个连接定制芯片的接口，也在试图把定制芯片的内存子系统纳入自己的平台路线。对采用该方案的客户来说，潜在好处是缩短开发路径；相应的代价则是需要在英伟达定义的接口、封装和供应商体系内进行更深的协同。

AWS 将成为首个合作案例

亚马逊旗下 Annapurna Labs 是目前公告中被明确点名的首个 NVHBM 合作方。英伟达称，Annapurna Labs 将与其共同推进 NVHBM 和 NVLink scale-up 架构，并从 Trainium4 开始支持 NVLink Fusion。

这项安排延续了 AWS 此前采用 NVLink Fusion 的计划。AWS 与英伟达在另一份联合公告中表示，双方计划在2027年至2028年间，于 AWS 全球基础设施新增部署200万块英伟达 GPU，同时继续推进 Vera CPU、网络、开放模型、数据处理和机器人平台的合作。

公告对 Trainium 与 NVHBM 的表述是，双方正在合作，使 Trainium 能够使用更快、能效更高的定制内存，并与英伟达 GPU 在共同的机架级架构中协同运行。它描述的是合作方向和技术推进，并不意味着 Trainium4 已经完成部署，也不意味着 NVHBM 已经大规模商业化。

AWS 的路线选择也说明，云厂商的自研芯片与英伟达 GPU 并不一定只能相互替代。不同芯片可能被用于不同环节，或者在同一云平台中根据成本、延迟、模型结构和客户需求进行组合。若互联、内存和软件栈能够保持一致，云服务商就可以减少为每种芯片单独建设基础设施的负担。

争夺的不只是带宽，而是 AI 工厂的控制点

AI 模型规模扩大后，系统瓶颈越来越多地出现在计算单元之外。更长的上下文、更大的参数量和更复杂的智能体工作流，会增加对内存容量、带宽和数据移动效率的要求。对于训练和推理系统来说，单纯增加计算核心并不能自动解决内存供给不足或数据传输受限的问题。

NVHBM 的意义在于，它试图从芯片面积、封装互连和功耗三个层面同时处理这一问题。若英伟达披露的指标能够在实际产品中实现，XPU 设计者可将释放出来的芯片面积用于计算资源，内存子系统也可能在相同功耗预算下提供更高吞吐量。但最终效果仍取决于 HBM 供应商的实现、封装工艺、芯片设计、软件栈和具体工作负载。

这也与英伟达近来推动的机架级系统路线相互衔接。英伟达此前发布 NVLink Fusion 时，已经把 MediaTek、Marvell、Alchip Technologies、Astera Labs、Synopsys 和 Cadence 等公司纳入定制 AI 芯片生态，并提出让定制处理器与英伟达 GPU 共享机架级基础设施。相关平台公告显示，英伟达希望把 NVLink、网络、机架系统和软件组成一套可复用的技术栈。

在这一模式下，英伟达的角色可能从 GPU 供应商进一步扩展为 AI 工厂的平台提供者。客户仍可设计自己的 XPU，但关键的互联、内存、网络和机架基础设施越来越多地与英伟达的技术体系发生联系。对云厂商而言，这有助于加快部署和统一运维；对英伟达而言，则有助于把自研芯片竞争转化为围绕其平台进行的生态合作。

商业化进度仍有待观察

截至目前，可以确认的是，英伟达已经公布 NVHBM 的架构方向、相对 HBM4E 的厂商性能指标，并宣布与 Annapurna Labs 展开合作；NVLink Fusion 也已被定位为支持定制 XPU、CPU 与英伟达机架级系统协同的技术平台。

仍然不清楚的是，哪些内存供应商将具体提供 NVHBM，首批采用该技术的产品何时上市，Trainium4 的支持范围和部署时间如何安排，以及实际系统能否在不同模型和客户环境中达到英伟达公布的带宽、功耗和面积目标。英伟达此次公告也没有披露 NVHBM 的价格、供应规模或已经确认的相关收入。

因此，NVHBM 目前更适合被理解为英伟达面向半定制 AI 基础设施的一项平台级技术推进，而不是一项已经完成大规模商用验证的内存产品。它所反映的更大趋势是，AI 芯片竞争正在从单个加速器的峰值性能，转向计算、内存、互联、封装、机架和软件能否共同形成可部署的系统。

随着云服务商继续发展自研 XPU，同时扩大对英伟达 GPU 和机架系统的采购，如何在保持芯片设计灵活性的同时共享基础设施，将成为下一阶段 AI 工厂建设的重要问题。NVHBM 能否成为这一混合架构中的通用内存层，还需要等待供应商验证、产品发布和真实部署结果。

来源：

• NVIDIA：NVIDIA NVLink Fusion Expands With NVHBM Custom High-Bandwidth Memory
• NVIDIA：Build Semi-Custom AI Infrastructure
• NVIDIA Newsroom：NVIDIA Unveils NVLink Fusion for Industry to Build Semi-Custom AI Infrastructure With NVIDIA Partner Ecosystem
• AWS 与 NVIDIA：Deliver 2 Million Additional GPUs and Next-Generation Infrastructure