OpenAI 与 Broadcom 联合发布首款 LLM 优化推理芯片 Jalapeño,旨在通过全栈基础设施战略提升 AI 推理速度并降低成本。据 OpenAI 官方博文,该芯片从设计到生产仅用时 9 个月,且在初步测试中展现出优于当前顶尖水平的能效比。

OpenAI 与 Broadcom 展示的 Jalapeño 推理芯片实物,体现 OpenAI 芯片架构的硬件形态

Jalapeño 芯片架构与设计目标

Jalapeño 并非由通用加速器改装,而是一款完全针对现代 LLM 推理量身定制的空白画布 (blank-slate) 设计。OpenAI 结合其在 ChatGPT、Codex 以及未来智能体 (agent) 产品中的运行经验,优化了核心算子 (kernels)、内存移动、网络通信及服务模式。

该架构旨在将顶尖 AI 加速器的吞吐能力与专业推理系统的低延迟相结合。目前,Jalapeño 的工程样品已在实验室中以目标频率和功耗运行机器学习负载,其中包括 GPT-5.3-Codex-Spark 模型。

能效表现与全栈优化优势

虽然最终性能数据仍在测量中,但据 OpenAI 称,初步测试显示 Jalapeño 的每瓦性能 (performance per watt) 显著优于当前业内最先进的方案。其架构通过减少数据移动并平衡计算、内存与网络资源,使实际利用率更接近理论峰值性能。

OpenAI 强调其全栈优势在于同步设计芯片架构、内核、内存系统、网络调度及部署系统。这种垂直整合模式允许每一层都围绕同一目标优化,从而让模型推理更快速、更可靠且价格更低廉。

九个月极速开发与量产计划

Jalapeño 从初步设计到制造流片 (tape-out) 仅用时 9 个月,被认为是高性能先进半导体领域最快的 ASIC 开发周期。这一速度得益于 OpenAI 工程师与 Broadcom 的深度协作,且在设计与优化过程中使用了 OpenAI 自身的模型来加速开发。

在硬件实现层面,Broadcom 提供了硅片实现与 Tomahawk 网络芯片技术,Celestica 则负责电路板、机架及系统集成。该平台计划于 2026 年底 开始初步部署,并与微软等合作伙伴共同构建吉瓦 (gigawatt) 规模的数据中心。

通过自研硬件降低算力成本,将使 OpenAI 能够以更高效率提供智能服务,并推动先进 AI 向更广泛的人群开放。


评论 0

订阅评论
提醒
guest
0 评论
最旧
最新 最多投票
内联反馈
查看所有评论
0
希望看到您的想法,请您发表评论x