IBM与Together AI签署2.4亿美元多年协议，计划部署NVIDIA HGX B300推理集群

IBM与Together AI签署约2.4亿美元多年协议，计划在IBM Cloud部署基于NVIDIA HGX B300的专用推理集群，由Together AI用于开源模型推理。集群预计2027年第一季度可用，但规模、交付和实际使用率仍待验证，协议更像是对开源推理市场的长期基础设施押注。

IBM与人工智能基础设施公司Together AI于2026年8月11日宣布签署一项多年期、金额约为2.4亿美元的协议。按照计划，IBM将在IBM Cloud部署采用NVIDIA HGX B300系统的大型集群，Together AI则将利用这套基础设施为开源模型提供推理服务。

这笔交易的重点并不只是新增一批GPU，而是显示开源模型的商业化正在从租用通用云资源，转向采购面向推理业务的专用基础设施。不过，IBM目前公布的是部署计划，集群尚未交付；协议金额也代表多年期商业安排，并不等同于设备已经全部投入使用。

集群预计在2027年第一季度具备使用条件

根据IBM官方公告，这将是IBM Cloud上首个采用HGX B300、面向大规模推理的专用集群，并配套NVIDIA Spectrum-X以太网网络。IBM称，集群预计在2027年第一季度具备使用条件，届时Together AI将把它用于开源模型推理。

IBM没有在公告中披露集群的完整规模、具体部署地点或分阶段交付安排。Reuters随后援引Together AI首席营收官Kai Mak的话报道称，初始集群将包括约2,000块NVIDIA Blackwell 300芯片，并计划部署在美国。Mak还表示，相关容量可能在正式上线前两至三个月就被客户预订完毕。

这部分信息来自Reuters对公司管理层的采访，并非IBM公告披露的合同条款。集群的最终芯片数量、上线日期以及实际可用容量，仍可能随着供应、工程建设和客户需求变化而调整。

HGX B300更适合高并发推理场景

HGX B300是NVIDIA基于Blackwell架构的八GPU平台。按照NVIDIA技术文档，一块HGX B300基板包含8块B300 GPU，单块GPU配备288GB HBM3e显存，整机GPU显存容量最高约为2.30TB；平台通过NVLink连接GPU，并以ConnectX-8 SuperNIC和高速以太网支持节点之间的通信。

这类配置的价值不仅在于峰值计算能力。对推理服务商来说，真正影响单位成本的因素还包括显存容量、模型并发数、上下文长度、GPU之间的通信效率，以及在高峰时段能否稳定调度大量请求。开源模型往往需要同时服务不同规模的客户，专用集群可以让服务商围绕特定模型和工作负载进行更细致的资源配置。

IBM在公告中引用NVIDIA的说法称，HGX B300平台相较前代系统可实现更高的AI工厂产出。但这一表述是厂商对平台性能的概括，实际效果仍取决于模型大小、批处理方式、网络拓扑、软件栈和客户请求结构，不能简单理解为所有推理任务都会获得同等幅度的提升。

Together AI押注开源模型的企业化需求

Together AI提供开源模型的训练、微调和推理服务，平台支持DeepSeek、MiniMax和Kimi等模型。Reuters称，该公司希望帮助企业以低于封闭模型的成本运行AI工作负载；IBM则表示，这项合作的目标之一，是改善企业客户在性能和token成本方面的选择。

IBM官方公告称，Together AI目前每月处理约400万亿个tokens，并表示公司最近完成了8亿美元C轮融资，估值达到83亿美元。400万亿tokens属于Together AI的自述，IBM公告没有提供独立审计或第三方核验信息，因此更适合作为公司对自身业务规模的描述，而不是经过独立验证的市场指标。

Together AI首席执行官Vipul Ved Prakash在IBM公告中说，企业希望获得前沿模型的性能，但不愿承担封闭模型的价格；他认为，只有底层基础设施能够以足够快的速度和规模运行，开源模型才可能真正进入企业生产环境。

从商业模式看，Together AI需要解决的并非只有模型可用性问题。推理服务的利润空间会受到GPU采购成本、电力和网络成本、模型利用率、客户承诺周期以及价格竞争的共同影响。专用集群能够提高可控性，但也意味着服务商要承担更长期的容量承诺和基础设施利用率风险。

AI基础设施投资正在从“建机房”转向“持续买算力”

这笔协议也发生在AI基础设施资本开支持续扩张的背景下。近几个月，云厂商、芯片公司和专业AI云服务商都在争夺GPU、电力、网络和数据中心空间，市场关注点开始从“有没有模型需求”转向“如何为长期推理需求提供稳定容量”。

AIFlux此前对亚马逊上调2026年资本开支至约2200亿美元的报道显示，云业务增长正在推动新的基础设施投入，但自由现金流也承受压力。对芯片和算力融资的讨论则进一步延伸到债务市场：Citadel Securities预计到2028年AI芯片相关债务融资将增加逾5000亿美元，说明市场正在把GPU采购和芯片更新视为一项需要持续融资的长期支出。

IBM与Together AI的协议属于商业采购安排，并不能直接证明整个开源推理市场已经实现盈利。但它至少表明，部分开源模型服务商已经开始以多年期容量规划的方式与云平台合作，而不是只在现有云资源上按需租用GPU。

真正的考验在集群上线之后

这项协议能否转化为Together AI的长期竞争优势，取决于几个尚未得到答案的问题：HGX B300集群能否按计划在2027年第一季度投入使用；约2,000块芯片的初始规模是否会按Reuters报道落地；Together AI能否让客户预订转化为稳定的实际使用量；以及更高性能带来的成本优势，能否抵消专用集群的资本和运营成本。

对于IBM而言，这也是其混合云和企业AI基础设施战略的一次具体落地。对于Together AI而言，专用的Blackwell集群可以帮助它扩大企业推理服务，但同时也把公司更深地绑定在GPU供应、数据中心交付和长期客户合同上。

因此，这笔2.4亿美元协议的意义，暂时更接近一项对未来开源AI推理需求的基础设施押注，而不是已经完成的算力交付。到2027年集群上线时，客户实际使用率、每token成本和服务收入，才会成为判断这项押注是否成功的关键指标。

IBM官方公告｜Reuters报道｜NVIDIA HGX B300技术文档