【OPENAI】OpenAI与博通共推Jalapeño芯片

OpenAI与Broadcom联合发布Jalapeño，一款为大规模语言模型（LLM）推理专门设计的加速器芯片，目标提升能效、降低延迟并支持大规模部署。首代样片已在实验室以目标频率和功耗运行，早期测试显示每瓦性能显著优于现有同类方案，后续将与合作伙伴分阶段量产并部署到千兆瓦级数据中心。

概述
– Jalapeño是OpenAI与Broadcom（并有Celestica参与系统化生产）联合开发的首款针对LLM推理的专用加速器，被定位为多代可扩展的推理平台核心。
– 芯片从零开始为现代LLM推理设计，优化计算、内存和网络之间的数据移动，实现更接近理论峰值的实际利用率。

开发与性能
– 从设计到流片耗时9个月，OpenAI称这是高性能先进半导体史上最快的ASIC开发周期之一，部分环节由OpenAI模型参与加速优化。
– 工程样片已在实验室运行ML负载（包括GPT‑5.3‑Codex‑Spark）并在目标频率与功耗条件下测试，早期结果显示每瓦性能明显优于当前最先进方案，技术细节和性能报告将在数月内公布。

架构与部署
– 该芯片并非通用适配器，而是针对推理关键路径（核函数、内存移动、网络与服务模式）定制，目标兼顾大吞吐与低延迟，适合交互式LLM产品在规模化下运行。
– Broadcom负责硅实现与高性能网络（包含Tomahawk网络芯片），Celestica负责板卡与机架系统集成，计划自2026年起与微软等合作伙伴展开千兆瓦级数据中心部署并持续推出多代产品。

意义与愿景
– 通过堆栈化设计（从模型到芯片到部署），OpenAI意图提升计算效率、降低成本、扩大可及性，从而促进更快、更可靠、更便宜的AI服务普及。
– OpenAI把用于服务的模型也用来优化基础设施，形成软件与硬件互促的闭环，推动下一代基础设施开发与规模化应用。

未尽事项
– 官方尚未公布完整的技术细节与量化性能数据，后续技术报告将提供更具体的比较与指标。

这是OpenAI向全栈化基础设施迈出的重要一步，但关键在于后续性能数据与大规模部署的实际成本效益。

原文链接