OpenAI 联手 Broadcom 发布 Jalapeño 推理芯片,全栈自研加速 LLM 推理
OpenAI 与 Broadcom 联合发布首款 LLM 优化推理芯片 Jalapeño,旨在通过全栈基础设施战略提升 AI 推理速度并降低成本。据 OpenAI 官方博文,该芯片从设计到生产仅用时 9 个月,且在初步测试中展现出优于当前顶尖水平的能效比。

Jalapeño 芯片架构与设计目标
Jalapeño 并非由通用加速器改装,而是一款完全针对现代 LLM 推理量身定制的空白画布 (blank-slate) 设计。OpenAI 结合其在 ChatGPT、Codex 以及未来智能体 (agent) 产品中的运行经验,优化了核心算子 (kernels)、内存移动、网络通信及服务模式。
该架构旨在将顶尖 AI 加速器的吞吐能力与专业推理系统的低延迟相结合。目前,Jalapeño 的工程样品已在实验室中以目标频率和功耗运行机器学习负载,其中包括 GPT-5.3-Codex-Spark 模型。
能效表现与全栈优化优势
虽然最终性能数据仍在测量中,但据 OpenAI 称,初步测试显示 Jalapeño 的每瓦性能 (performance per watt) 显著优于当前业内最先进的方案。其架构通过减少数据移动并平衡计算、内存与网络资源,使实际利用率更接近理论峰值性能。
OpenAI 强调其全栈优势在于同步设计芯片架构、内核、内存系统、网络调度及部署系统。这种垂直整合模式允许每一层都围绕同一目标优化,从而让模型推理更快速、更可靠且价格更低廉。
九个月极速开发与量产计划
Jalapeño 从初步设计到制造流片 (tape-out) 仅用时 9 个月,被认为是高性能先进半导体领域最快的 ASIC 开发周期。这一速度得益于 OpenAI 工程师与 Broadcom 的深度协作,且在设计与优化过程中使用了 OpenAI 自身的模型来加速开发。
在硬件实现层面,Broadcom 提供了硅片实现与 Tomahawk 网络芯片技术,Celestica 则负责电路板、机架及系统集成。该平台计划于 2026 年底 开始初步部署,并与微软等合作伙伴共同构建吉瓦 (gigawatt) 规模的数据中心。
通过自研硬件降低算力成本,将使 OpenAI 能够以更高效率提供智能服务,并推动先进 AI 向更广泛的人群开放。

评论 0