资讯🔥7.0
OpenAI 首款自研芯片 Jalapeño 性能首秀:DeepSeek R1 每瓦 AI 吞吐量是 GB300 的 1.7 倍
📌 概要
<p>IT之家 8 月 26 日消息,OpenAI 昨日(8 月 25 日)发布博文,展示其首款自研 Jalapeño 芯片,并表示无论是单用户 token 处理量,还是每千瓦吞吐量,都超过了目前市面上的顶尖推理处理器。</p><p>在官方博文中,OpenAI 使用半导体研究公司 SemiAnalysis 开发的公共基准测试工具 InferenceX,通过 GPT-OSS 120B、DeepSee
<p>IT之家 8 月 26 日消息,OpenAI 昨日(8 月 25 日)发布博文,展示其首款自研 Jalapeño 芯片,并表示无论是单用户 token 处理量,还是每千瓦吞吐量,都超过了目前市面上的顶尖推理处理器。</p><p>在官方博文中,OpenAI 使用半导体研究公司 SemiAnalysis 开发的公共基准测试工具 InferenceX,通过 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 三款模型测试。</p><p style="text-align: center;"></p><p>测试显示对比市面上领先的 AI 系统(GB200 和 GB300),每瓦能够完成的 AI 吞吐量是对比系统的 1.5 至 1.9 倍,端到端延迟则约为对比系统的 28% 至 59%。</p><p style="text-align: center;"><img class="no-alt-img" src="https://img.ithome.com/newsuploadfiles/2026/8/8220313e-908b-44f0-8971-2f7acd2dc15f.png?x-bce-process=image/format,f_auto" /></p><figcaption>混合 Token 吞吐量与现有 AI 加速器的最快解码速度对比</figcaption><p style="text-align: center;"><img class="no-alt-img" src="https://img.ithome.com/newsuploadfiles/2026/8/9493a9b8-2c4f-45cc-b084-3fe792e70b91.png?x-bce-process=image/format,f_auto" /></p><figcaption>3 款模型峰值单用户解码吞吐量</figcaption><p style="text-align: center;"><img class="no-alt-img" src="https://img.ithome.com/newsuploadfiles/2026/8/e6bfb674-e51c-4d26-b0e1-9fd64f87fdd1.png?x-bce-process=image/format,f_auto" /></p><figcaption>各平台最佳运行点的混合 Token 峰值吞吐量</figcaption><p>OpenAI 表示,Jalapeno 在运行 GPT-OSS 120B 时,每千瓦的峰值吞吐量比 GB200 系统高出约 1.9 倍。</p><p>在 DeepSeek R1 上,它的每瓦性能比 GB300 高出约 1.7 倍;在 Kimi K2.5 上,它的每瓦性能比 GB300 高出约 1.5 倍。Jalapeno 的额定功率为 700 瓦,但在测试工作负载期间,其持续功耗保持在 550 瓦或以下。IT之家附上相关图片如下:</p><p style="text-align: center;"><img class="no-alt-img" src="https://img.ithome.com/newsuploadfiles/2026/8/7dc69205-2c04-48f3-9d03-7a9106f07d6b.png?x-bce-process=image/format,f_auto" /></p><p style="text-align: center;"><img class="no-alt-img" src="https://img.ithome.com/newsuploadfiles/2026/8/f02f7e10-dfa8-4957-a86c-a3e274bb90dc.png?x-bce-process=image/format,f_auto" /></p><blockquote class="ai-point"><h3>延伸阅读</h3><p><span>Jalapeño 是 OpenAI 首款自研 AI 推理芯片,由 OpenAI 与博通(Broadcom)合作开发,台积电采用 3nm 制程代工制造,于 2026 年 6 月 24 日首次对外展示。</span><span>该芯片是一颗 ASIC(专用集成电路),采用 systolic array(脉动阵列)架构,配备 HBM 高带宽内存,专为大语言模型推理场景设计,不用于模型训练。芯片及配套服务器系统均不会对外销售,仅供 OpenAI 内部使用,旨在降低自身 GPU 采购和算力运营成本。</span><span>OpenAI 硬件负责人 Richard Ho 领导了该芯片的研发,他此前在 Google 工作近九年,是 Cloud TPU 项目的核心工程师。Jalapeño 从架构设计到完成流片仅耗时约 9 个月,OpenAI 称这是高性能先进半导体领域有史以来最快的 ASIC 开发周期之一。OpenAI 自身的 AI 模型也深度参与了芯片设计流程,帮助加速设计优化。</span><span>目前第二代 Jalapeño 芯片已进入后期开发阶段,预计未来数月内完成流片;第三代芯片也已启动概念设计。OpenAI 计划于 2026 年年底前小规模部署 Jalapeño,2027 年逐步扩大部署规模。</span><span>需要注意的是,Jalapeño 此次测试对比的对象为英伟达 GB200 和 GB300 系统,尚未与英伟达最新一代 Vera Rubin 芯片进行对比测试。OpenAI 表示英伟达仍是其重要合作伙伴,未来将持续采用多供应商策略以满足庞大的算力需求。</span></p></blockquote><p><strong>相关阅读:</strong></p><ul class="small-size list-paddingleft-2"><li><p>《<a href="https://www.ithome.com/0/994/253.htm" target="_blank">OpenAI 秀肌肉,与博通共研的 Jalapeño 芯片将向英伟达 GB300 发起挑战</a>》</p></li></ul>