Kimi K3 降价反推硬件需求,花旗美银看好芯片
Kimi K3 越便宜晶片越缺?效率飆升硬體需求飆升
Kimi K3 作为中国开源模型代表,其降价对芯片需求的影响分析具有前瞻性,花旗和美银的观点值得关注。建议研究 AI 硬件产业链的读者留意杰文斯悖论在 AI 领域的演绎。
Kimi K3 降價不會減少晶片需求,反而可能推高整體硬體消耗。
(前情提要:本地跑 Kimi K3 硬體門檻?64 張 GPU 起跳、45kW 用電,玩家自架出局)
(背景補充:交易規模上看 100 億美元!傳 Anthropic 擬向 Meta 租用運算資源,緩解 GPU 短缺危機)
Kimi K3 把 AI 投資者重新帶回一個核心問題:模型更便宜、更高效,是否意味著晶片和記憶體需求下降?花旗和美銀證券的答案都偏向否定,效率提升或許釋放更多使用量,進而推高總資源消耗。
據追風交易臺,月之暗面發布的 Kimi K3 擁有 2.8 兆引數,面向 100 萬 token 上下文視窗和長週期智慧體任務。花旗半導體分析師 Peter Lee 認為,即便 Kimi K3 被廣泛使用,伺服器 DDR5 和 eSSD 等通用記憶體需求仍會提升。
美銀證券半導體分析師 Vivek Arya 在 7 月 17 日的研究中也表示,美國前沿 AI 實驗室更或許提升算力投入,而不是減少投入。若中國開源模型持續逼近,OpenAI,Anthropic 和 Google 等領先者必需用更大訓練規模,更重推理和更快產品迭代維持差異化。
這意味著市場對 Kimi K3 的定價邏輯,不能只看單次推理成本下降。更關鍵的是,低價模型是否帶來更多呼叫,更長任務鏈和更多 token 生成。若答案為是,GPU,HBM,DDR5,eSSD,高速網路和推理系統都或許繼續受益。
Kimi K3 登場:效率飆升反推硬體需求 花旗將 Kimi K3 視為 AI 產業鏈中「傑文斯悖論」的潛在案例。該悖論的核心是,技術效率提升降低單位使用成本後,使用量或許大幅提升,最終資源總消耗不降反升。
Kimi K3 的吸引力來自低成本與高效能組合。公開價格顯示,快取命中輸入價格為每百萬 token 0.3 美元,輸出價格為每百萬 token 15 美元。其完整權重計劃於 7 月 27 日披露,目標是支援長週期智慧體工作。
花旗的判斷是,模型降價不會自動減少硬體需求。相反,低成本或許提高開發者和企業呼叫模型的意願,推動更多 AI 智慧體部署。智慧體任務並非一次性問答,而是在連續任務中不斷生成,讀取和處理 token。呼叫次數和任務長度上升,會把單位成本下降重新轉化為總資源消耗。
故而,Kimi K3 對半導體鏈條的影響,重點不在「單次呼叫是否更便宜」,而在「總 token 量是否擴大」。這正是花旗看好伺服器 DDR5 和 eSSD 需求的原因。
傑文斯悖論:低價引爆更多 token 消耗 Kimi K3 採用三項關鍵技術:Kimi Delta Attention,Attention Residuals 和 Stable LatentMoE。Kimi Delta Attention 用於降低 100 萬 token 上下文視窗的成本,Attention Residuals 用於在模型不同深度之間選擇性檢索表徵,Stable LatentMoE 則提升稀疏化程度,每個 token 僅啟用 896 個專家中的 16 個。
月之暗面的技術資料稱,這套架構使 Kimi K3 的擴充套件效率達到 K2 的 2.5 倍。高稀疏度和長上下文能力,是其壓低執行成本的重大基礎。
但花旗強調,這並不等於推理端資源壓力消失。Kimi K3 仍不是輕量級部署方案,其執行必需多節點叢集,超級節點配置超過 64 顆 GPU。更重大的是,長上下文和智慧體任務會推高 KV Cache 佔用,進而提升推理端記憶體負擔。
KV Cache 需求直接關聯伺服器 DDR5 和 eSSD。DDR5 承擔高頻資料存取,eSSD 受益於更大的快取和資料儲存需求。對記憶體廠商而言,關鍵變數不是單個模型是否更省算力,而是低價之後模型被呼叫多少次,每次呼叫生成多少 token,以及智慧體任務鏈被拉多長。
KV Cache 飆漲:長上下文壓榨記憶體 美銀證券的結論與花旗形成呼應,但關注點更偏向 GPU 和 AI 基礎設施。Vivek Arya 認為,更強的中國開源模型未必會讓美國 AI 巨頭削減算力投入。相反,模型差距收窄會提高領先者維持優勢的成本。
美銀證券表示,如果開源模型持續逼近,OpenAI,Anthropic 和 Google 必需依靠更大規模訓練,更多強化學習與合成資料迴圈,更重的測試時推理,以及更快的產品發布節奏來守住差異化。
這套邏輯不取決於哪一個模型短期領先。大模型排行榜或許迅速輪換,但企業真正購買的是穩定,低延遲,高可用的 AI 輸出,以及更低的「每單位有效產出」成本。當模型能力趨同,競爭壓力會傳導至底層基礎設施,包括 GPU,HBM,高速網路和推理系統。
故而,美銀證券認為,Kimi K3 這類模型的出現,不應被簡單理解為「模型更高效,晶片更少」。更現實的路徑是,模型競爭加劇,領先者為了維持距離繼續加碼算力。
競爭急凍:美系 AI 巨頭繼續加碼 Kimi K3 採用 MoE 架構,意味著總引數量和每次推理實際啟用的引數可以分離。這一變化降低了部分計算壓力,但也讓基礎設施瓶頸從單純算力,轉向視訊記憶體訪問,專家路由,響應延遲和互連能力。
美銀證券強調,MoE 推理要求系統更高效地搬運資料,排程專家模組,並連線更大的計算叢集。輝達提出,現代 MoE 推理必需更大的 GPU 域。其測算顯示,GB300 NVL72 在領先開源模型上的每瓦效能,最高可達到 Hopper 平台的 25 倍。
CoreWeave 圍繞 Kimi K2.6 的測試也說明,開源 MoE 模型即使每次只啟用部分引數,若要在速度和價效比上維持領先,仍必需經過最佳化的輝達 GB300/GB200 NVL72 基礎設施。
這意味著,模型權重或許逐步商品化,但執行模型所需的 GPU,高頻寬記憶體,網路互連和推理系統不會失去價值。相反,隨著模型呼叫量擴大,這些環節或許成為競爭更集中的地方。
開源爆買:OpenRouter 資料顯示成長 美銀...
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力