OpenAI × 博通联合发布首款自研 AI 芯片 Jalapeño:
推理成本直降 50%,剑指英伟达

若你是AI 开发者、基础设施负责人或关注算力成本的决策者,正困惑「OpenAI 自研芯片能否撼动英伟达」「推理成本何时真正下降」,本文基于 2026 年 6 月 24 日官方发布与主流媒体采访,系统梳理OpenAI 与博通联合推出的首款定制推理芯片 Jalapeño:约 50% 推理成本节省(早期测试)、台积电 3nm 工艺、9 个月流片纪录、微软 Azure 年底首批部署,以及与英伟达 Blackwell 的竞争关系、产业链分工与 2029 年 10 GW 算力目标。节点方案以 NOVAKVM 定价页为准。

OpenAI 是全球最大的 GPU 消耗方之一。每次 ChatGPT 问答背后,服务器群组都在持续完成推理(Inference)——根据输入生成回答。随着 GPT-4、GPT-5 系列能力升级,推理成本已成为盈利路径上最重的一块石头。过去 OpenAI 几乎完全依赖英伟达 H100、H200、Blackwell 等通用加速器;在高度同质化的 LLM 推理场景里,大量算力开销实际上是浪费。

类比:英伟达 GPU 是瑞士军刀,Jalapeño 是专业手术刀——只做 LLM 推理,但在该领域效率极高。

  • 模型越强,账单越贵:推理是 OpenAI 运营支出最大单项之一,用户规模达数亿日活后边际成本敏感。
  • 通用 GPU 的架构错配:GPU 为游戏、训练、仿真等广泛任务设计,非专为 Transformer 推理优化。
  • 大厂早已入局:OpenAI 是定制硅入局最晚的大厂之一,但 9 个月流片速度极快。
  • 开发者侧隐性成本:API 降价预期与本地 Agent 长时运行,都依赖上游推理效率;本机环境休眠、磁盘瓶颈会放大「算力便宜但跑不稳」的问题。
hyperscaler 自研 AI 芯片对照(公开信息)
公司 自研芯片 主要用途
Google TPU 训练 + 推理
Amazon Trainium / Inferentia 训练 + 推理
Microsoft Maia 100 推理
Meta MTIA 推理
OpenAI Jalapeño(2026) 推理

Jalapeño 是 ASIC(专用集成电路),不是 GPU:只做 LLM 推理,不玩游戏、不跑训练、不做通用计算。OpenAI 硬件负责人 Richard Ho 表示,该芯片从零开始专为 LLM 推理设计,融入对前沿模型在内核执行、内存移动、网络通信与服务模式的洞察,早期测试能在接近硬件理论极限的状态下运行最重要工作负载。

  • 从零设计(Blank-slate):以现代 LLM 推理为出发点,每个设计决策围绕 Transformer 运算模式,而非先通用再在软件层适配 AI。
  • 最小化数据搬运:推理瓶颈常在内存带宽;架构专门减少内存与计算单元之间的无效搬运。
  • 计算 / 内存 / 网络均衡:针对 LLM 负载特征专项平衡,使实际利用率更接近理论峰值。
  • 博通 Tomahawk 互联:大规模集群部署时提供强大节点间通信,支撑多卡协同推理超大模型。
  • Celestica 系统集成:负责主板、机架与服务器系统集成,提供规模化量产能力。
  • 台积电 3nm 制造:与苹果 M4、英伟达 Blackwell 同代先进制程,高晶体管密度、低功耗。
  • 实验室已运行:工程样品在目标频率与功耗下运行 ML 工作负载,包括 GPT-5.3-Codex-Spark(编程场景旗舰推理模型之一)。
Jalapeño 早期性能与成本指标(官方/博通声明,待第三方验证)
指标 Jalapeño(早期测试) 对比基准
推理成本节省 约 50% 相比当前主流 AI GPU
每瓦性能 显著优于当前最先进水平 OpenAI 官方声明
性能绝对值 与 Blackwell、谷歌 TPU 相当 博通 CEO 陈福阳(路透社)
热耗散 优于预期 OpenAI 内部测试

博通 CEO 陈福阳(Hock Tan,Bloomberg):「到目前为止,Jalapeño 相比典型 AI GPU 展现出约 50% 的成本节省。」

OpenAI 总裁 Greg Brockman:Jalapeño 从初始设计到流片仅 9 个月,部分设计与优化过程使用了 OpenAI 自己的 AI 模型(具体哪一代未公开;VentureBeat 援引知情人士称使用前代 OpenAI 模型)。

审慎看待「50%」:目前仍是 Broadcom 方面早期实验室数据;完整技术报告预计数月后发布;微软等伙伴数据中心实际部署与第三方独立基准测试尚未完成。

Jalapeño 从初始设计到制造流片(Tape-out)仅 9 个月,OpenAI 与博通声称这是高性能先进半导体领域有史以来最快的 ASIC 开发周期

  • 软硬件深度协同:模型团队与芯片团队协作,避免传统 ASIC 开发中「硬件工程师猜测软件需求」的大量返工。
  • AI 辅助芯片设计:OpenAI 自有模型加速部分设计决策与优化。
  • 博通成熟 IP 库:芯片实现、网络互联等可复用 IP 显著缩短逻辑到物理实现周期。
Jalapeño 产业链与合作伙伴分工
角色 公司 负责内容
芯片架构设计 OpenAI LLM 推理优化方向、全栈架构设计
芯片实现与网络 博通(Broadcom) 硅片实现、Tomahawk 网络芯片、量产支持
晶圆代工 台积电(TSMC) 3nm 工艺制造
系统集成 Celestica 主板、机架、服务器系统集成、量产
首批部署客户 微软 Azure 数据中心部署(2026 年底开始)

博通正成为「AI 定制芯片界的代工皇」——同时为 Google(TPU v5/v6)、Meta(MTIA)与 OpenAI(Jalapeño)设计定制 ASIC。公开市场数据显示:2026 年前 5 个月博通股价年涨幅约 18%;自 2022 年底以来累计涨幅接近 7 倍。Jalapeño 与所有 AI 加速器一样需要大量 HBM 高带宽内存,SK 海力士、三星等供应商将受益。

近期(2026 年底):工程样品已在 OpenAI 实验室测试;年底前正式部署至微软及其他数据中心合作伙伴;优先服务 ChatGPT、Codex、API 等内部推理需求。

中期(2027 年):大规模量产;博通 CEO 预测部署规模将超过此前预测的 1.3 吉瓦(GW);芯片「为全行业当前和未来 LLM 而建」,可能向外部 AI 公司开放。

长期(至 2029 年):OpenAI 目标用自研芯片支撑 10 GW 算力(约 10 座核电站发电量级别);多代路线图已规划,下一代预计 2028 年推出并此后每年迭代;未来可能扩展至训练芯片(目前仅覆盖推理)。

Jalapeño 能否替代英伟达?短期结论矩阵
维度 Jalapeño 现状 英伟达护城河
工作负载 仅推理 训练 + 推理全覆盖
软件生态 专用栈,规模有限 CUDA 十余年生态,数百万开发者
架构灵活性 ASIC 高效但架构变更适配成本高 通用 GPU 适应性强
资本绑定 自研 + 博通合作 2026 年 2 月英伟达向 OpenAI 直接投资 300 亿美元
战略定位 分散供应、谈判筹码 Vera Rubin 下一代平台、持续生态投入

核心战略意义是「分散供应,谈判筹码」——哪怕 Jalapeño 只承担 20%–30% 推理负载,也意味着真实节约成本、与英伟达谈判采购价格的底气,以及不再受单一供应商供货周期与涨价约束。这与谷歌、亚马逊、微软策略一致:不是「抛弃英伟达」,而是「不再完全依赖英伟达」。

「Nobody wants to be beholden to Nvidia.」—— Quilter Cheviot 全球科技研究主管 Ben Barringer(CNN 援引)

消息公布后英伟达股价反应有限;市场普遍认为训练领域优势短期内不受威胁,但大客户自研芯片构成长期结构性压力。

  • 推理经济学重塑商业模式:若 50% 成本节省在生产环境验证,ChatGPT / API 调用成本可能进一步下降,OpenAI 盈利路径更清晰,「AI 价格战」底线将被拉低。
  • 「全栈 AI 公司」成新标准:OpenAI 官方表述——不仅在开发前沿模型或构建产品,更在设计下方基础设施:芯片架构、内核、内存系统、网络、调度、部署系统与产品体验。竞争维度从「谁的模型更好」演变为「谁的全栈效率更高」。
  • 半导体格局分化:赢家包括博通(定制 ASIC 合作)、台积电(先进制程需求)、SK 海力士 / 三星(HBM);承压方包括英伟达(推理份额可能被蚕食)、AMD(推理 ASIC 浪潮中存在感弱)。
关键人物与角色(公开发布信息)
姓名 职位 在此事件中的角色
Greg Brockman OpenAI 联合创始人 & 总裁 公开宣布发布,定性为全栈基础设施战略
Richard Ho OpenAI 硬件项目负责人 技术架构领导者
Hock Tan(陈福阳) 博通 CEO 声称性能媲美 Blackwell、成本节省 50%
Sam Altman OpenAI CEO 整体战略推动(曾公开表示希望掌控算力命脉)

  • Jalapeño 是英伟达 GPU 的替代品吗?不是,至少现在不是。只做 LLM 推理,不做训练;双方更多是互补关系。
  • 50% 成本节省是真实数据吗?博通 CEO 彭博采访公布的早期实验室数据,尚未第三方独立验证;完整技术报告数月后发布。
  • 普通用户会感受到什么?若验证成功,ChatGPT / API 费用可能进一步降低,响应可能更快;长期 AI 服务更便宜、更普及。
  • 为什么叫 Jalapeño(墨西哥辣椒)?官方未说明;OpenAI 内部有食物命名传统,可能暗示性能或对市场格局的刺激。
  • 会向其他 AI 公司开放吗?官方表述芯片「为全行业当前和未来 LLM 而建」,暗示未来可能开放;目前优先满足 OpenAI 自身需求。
  • 下一代何时发布?路线图规划下一代预计 2028 年推出,之后逐年迭代。
  • 对英伟达股价有影响吗?公布后反应有限;训练优势短期不受威胁,长期自研趋势构成结构性压力。

时间线:

  • 2025 年 10 月:OpenAI 与博通正式宣布合作开发定制芯片
  • 2026 年 2 月:英伟达向 OpenAI 直接投资 300 亿美元(含 Vera Rubin 算力协议)
  • 2026 年 6 月 24 日:Jalapeño 公开发布,工程样品在实验室运行
  • 2026 年底:首批商用部署(微软 Azure 及其他合作伙伴)
  • 2027 年:大规模量产,部署规模超 1.3 GW
  • 2028 年(预计):第二代芯片发布
  • 2029 年(目标):自研芯片支撑 10 GW 算力规模

  1. 区分训练与推理预算:Jalapeño 仅覆盖推理;训练前沿模型仍依赖英伟达 GPU——团队应分开核算两类算力合约与 API 成本。
  2. 审慎采用厂商基准:将「50% 节省」视为待验证假设;关注 OpenAI 完整技术报告、Azure 实际部署与 MLPerf 等第三方基准。
  3. 跟踪产业链受益方:博通、台积电、HBM 供应商与 Celestica 集成商的变化,可间接判断量产进度与供给风险。
  4. 重估 API 定价预期:若推理经济学改善,ChatGPT / Codex API 可能进一步降价——提前在产品中设计多供应商与缓存策略。
  5. 理解「全栈竞争」:模型质量之外,端到端效率(芯片 + 调度 + 产品)将成为护城河;Agent 与 CI 工作流应匹配更低延迟、更稳定的环境。
  6. 固化 7×24 开发环境:将编码 Agent、长时推理任务部署在常驻在线的 Apple Silicon 节点;详见 帮助中心下单页
  • 发布日期:2026 年 6 月 24 日(OpenAI + Broadcom 联合发布)
  • 推理成本节省:约 50%(博通 CEO 早期实验室声明,待独立验证)
  • 流片周期:9 个月(设计到 Tape-out,官方称创高性能 ASIC 纪录)
  • 制程:台积电 3nm
  • 长期算力目标:10 GW(2029 年)

在本地笔记本上跑 Codex、Cursor Agent 与长时 API 压测,常见痛点是合盖休眠中断、内存带宽不足、无法 7×24 常驻、跨国网络抖动。云虚拟机共享资源则存在 Metal 性能损耗与 macOS 版本不可控。对于需要稳定 iOS/macOS 构建、AI Agent 自动化与编码助手长时在线的生产环境,NOVAKVM 的 Mac Mini 云端裸金属租赁通常是更优解:独占 Apple Silicon、多区域低延迟节点、按天/周/月弹性租期,让推理降本趋势下的工程投入落在可预期的执行环境上。

以下链接为撰写时依据的公开报道与官方入口;若上游更新,请以原文为准。

OpenAI 官方发布博客

TechCrunch:OpenAI unveils its first custom chip, built by Broadcom

VentureBeat:Jalapeño development sped up with OpenAI models

The Next Web:OpenAI Jalapeño chip and Nvidia

Bloomberg:OpenAI and Broadcom Unveil Jalapeno AI Chip

Axios:OpenAI moves beyond Nvidia