OpenAI自研推理芯片Jalapeño实测每兆瓦吞吐量碾压Blackwell

SemiAnalysis 實測 OpenAI 自研推理晶片 Jalapeño，每兆瓦 token 吞吐量碾壓輝達 Blackwell，甚至超越下一代 Rubin。這款晶片從設計到流片僅花 16 個月，卻在通用推理場景全面領先，但真正的對手或許不是 Blackwell，而是尚未量產的 Rubin。

（前情提要：算力缺到哭！WSJ：Blackwell租金兩月漲 48%、Anthropic慢到企業跳船）

（背景補充：輝達 Q3 財報亮眼粉碎 AI 泡沫論，黃仁勳：Blackwell 需求好到爆、Nvidia 盤後拉漲 5％）

OpenAI 自研晶片 Jalapeño 的實測資料終於曝光，結果讓整個算力市場為之震動。SemiAnalysis 受邀進入實驗室，用 InferenceX 套件跑完基準測試後發現，這款晶片在每兆瓦 token 吞吐量上直接碾壓輝達現役旗艦 Blackwell，甚至連下一代 Rubin 都得讓三分。更驚人的是，從設計到流片只花了 16 個月——這不是什麼小團隊的實驗專案，而是 OpenAI 聯手博通、從零打造的第一代 ASIC。

16 個月流片：OpenAI 如何打破 ASIC 開發魔咒？

過去兩年，OpenAI 一直在低調醞釀「Jalapeño」這款推理晶片，直到 Hot Chips 2026 才正式公開。SemiAnalysis 指出，這顆晶片的開發週期從 2024 年中啟動，從團隊招聘到製造流片僅花約 16 個月，在 ASIC 領域堪稱異類。

通常第一代晶片很難具備競爭力，但 OpenAI 卻走出截然不同的路線。在多個頂級開源模型上，Jalapeño 擊敗了 SemiAnalysis 能測試的所有輝達、AMD 和谷歌晶片，處於產業領先地位。關鍵在於 OpenAI 將軟硬體協同設計推向極致，而且沒有過度專攻某個特定環節，反而專注於打造一款能在所有場景下提供高效能的通用晶片。

每兆瓦吞吐量碾壓 Blackwell：Jalapeño 的效能實測 SemiAnalysis 在實驗室中親自驗證了 Jalapeño 的 InferenceX 基準測試結果。在每兆瓦總功耗下的 token 吞吐量表現上，Jalapeño 完勝所有對手——而且這一切都是在沒有使用多 token 預測（MTP）的情況下達成的，圖表中的其他晶片則全部開啟了 MTP。

在 DeepSeek R1 模型上，並發數為 1 時，每使用者每秒超過 700 個 token 在 Kimi-K2.5 和 GPT-OSS 上，每使用者每秒約 1,400 個 token 所有模型的 GSM8k 評測結果與輝達晶片持平 更公平的比較是看單 token 預測結果，Jalapeño 把每個競爭對手都甩出幾條街。在低並發場景下，Jalapeño 展現出驚人的互動性——這一切都沒有使用推測解碼，也沒有預填充-解碼分離。

真正的對手不是 Blackwell：Rubin 才是試金石 SemiAnalysis 認為，與 Blackwell 的對比有些不完整也不公平。Jalapeño 真正的對手是同樣使用 HBM4 的 Rubin 等晶片。Vera Rubin 系統目前已經開始向客戶出貨，而 OpenAI 的 Jalapeño 還只有工程樣品，距離量產還有一段時間。

從某種意義上說，SemiAnalysis 本來就預期像 Jalapeño 這樣的定製晶片會超過 Blackwell。Vera Rubin NVL72 的每瓦效能是 GB200 NVL72 的 5.4 倍。即便與 Rubin 相比，Jalapeño 在每兆瓦 STP 輸出 token 吞吐量上仍然勝出——超過了 Vera Rubin 的 MTP 結果。

電力瓶頸下的算力戰爭：tok/s/MW 為何成為新指標？

OpenAI 的設計目標是效能/瓦特，原因很簡單：OpenAI 目前受限於資料中心電力，而不是預算或機房空間，所以每兆瓦的 token 數至關重要。在 Computex 2026 上，黃仁勳說：「如果你有 1 吉瓦的電力，那麼每瓦的吞吐量就是收入。」

營運商無法輕易獲得更多兆瓦。增加 GPU 和增加電網容量的時間尺度差異巨大。資料中心電力上限受到諸多限制，例如公用事業互聯、基礎設施、冷卻能力以及 UPS/備用發電設計。這催生了對錶後電力容量的需求——即在資料中心本地建造燃氣輪機和現場發電機，這正是 xAI 的 Colossus 2 嚴重依賴錶後電力的原因。

2048 XPU 擴充套件網路：OpenAI 的兆引數野心 OpenAI 可以在單個擴充套件網路內連線多達 2,048 個 Jalapeño XPU。擴充套件網路由兩個域組成：本地域透過背板連線機架內全部 128 個 XPU，全域性域使用銅纜和光互連混合，連線 16 個機架的 2,048 個 XPU。

本地域：128 個晶片，每個 XPU 單向頻寬 4.8Tb/s，全對全連線到 6 個 102.4Tb/s Tomahawk 6 ASIC 全域性域：16 個機架共 2,048 個 XPU，每個 XPU 全域性鏈路單向頻寬 1.6Tb/s 擴充套件網路僅佔總系統成本約 10%，為未來 10 兆到 20 兆引數模型買來寶貴的可選性 架構上，OpenAI 選擇不將預填充和解碼拆分到不同的晶片池，草稿模型和主模型共享相同的晶片和互連結構。這種設計犧牲部分理論效率，換取實際運維的便利——因為工作負載構成會隨時間變化，預先為異構的預填充矽和解碼矽確定固定數量，會隨著時間推移導致效率低下。

接下來，Jalapeño 的首個生產 token 即將到來，下一個目標是 100MW。障礙主要在硬體：他們能生產多少、能多好地部署和營運資料中心、如何處理監控和韌性等。軟體已經驗證，而且有了內部模型，任何軟體先發優勢都很容易被追上。

相關報導 OpenAI 兩大高層 Bill Peebles、Kevin Weil 同天離職！部門 OpenAI for Sc...