AI晶片產業

OpenAI 與 Broadcom 推 Jalapeño 晶片,推論成本成模型公司的硬體戰場

OpenAI 與 Broadcom 推 Jalapeño 晶片,推論成本成模型公司的硬體戰場 能源, AI, 產業

OpenAI 與 Broadcom 推出 Jalapeño 推論晶片,代表模型公司正在把工作負載直接寫進硬體設計。OpenAI 稱這是第一款 Intelligence Processor,目標是把 LLM 推論的 kernel、記憶體搬移、網路和服務模式最佳化到晶片架構裡。

這不是一般雲端客戶自研晶片,而是模型公司試圖控制推論成本的長期基礎設施。訓練需要巨大算力,推論則是每天面對用戶請求的成本中心。若 Jalapeño 能在特定工作負載接近理論效率,OpenAI 對 NVIDIA GPU 的依賴會被部分改寫。

OpenAI 與 Broadcom 的 ASIC 路線瞄準推論成本

大型模型公司自研或合作開發 ASIC,核心動機通常不是取代所有 GPU,而是把高頻、可預測的推論工作壓到更低成本。若 Jalapeño 晶片能進入實際部署,OpenAI 會多一個控制成本與供應的工具。

OpenAI 與 Broadcom 推 Jalapeño 晶片,推論成本成模型公司的硬體戰場 能源, AI, 產業

Broadcom 的角色也很典型。它長期服務大型客戶客製晶片與網通需求,能把模型公司的工作負載轉成晶片規格;但設計成功、流片、封裝、量產與導入資料中心之間仍有很長距離。

OpenAI 自研推論晶片,瞄準的是長期成本而不是單次話題

OpenAI 與 Broadcom 推出 Jalapeño 的核心邏輯很清楚:模型公司如果想把推論成本壓下來,不能永遠只看通用 GPU。當服務量持續擴大,哪怕每次推論只省一點,累積起來都會變成極大的毛利差距和資本支出差距。

Broadcom 的角色也很關鍵。它不是替 OpenAI 做行銷,而是把自己在客製 ASIC、網通與系統整合的能力,直接放進大型模型公司的硬體路線裡。這讓推論晶片戰場開始更像雲端自研 ASIC,而不只是 GPU 的延伸競爭。

OpenAI 與 Broadcom 推 Jalapeño 晶片,推論成本成模型公司的硬體戰場 能源, AI, 產業

OpenAI Jalapeño 接下來要回到量產、部署與替代率

Jalapeño 現在最缺的,不是故事,而是更明確的量產時間、部署規模和實際使用場景。只要這些條件還沒公開,市場就還不能斷言它會快速改寫 GPU 需求結構。

不過,這件事本身已經很有指標性。當 OpenAI 這種模型公司願意更深地碰硬體,代表推論成本確實成了競爭核心,未來更多模型商、雲端商和 ASIC 業者都會被迫加快布局。

延伸閱讀
華為 WATCH GT 5 Pro 上手:「情緒健康」功能很神奇,滑臉書真的會導致心情變壞
文章・華為
macOS 內建「網路測速」功能你知道嗎?無需下載軟體、不必開瀏覽器就能測
文章・蘋果
天機閣:免費 AI 易經占卜,僅此一家別無分號
文章・頭條
Written by
黃郁棋

《科技人》站長,在科技業打滾十年的老屁股,每天都覺得自己要被新技術取代了,完了完了。

打賞科技人|祝您有個美好的一天

科技人原創 BGM

音樂目錄載入中

預設暫停,等你按下播放

0:00 0:00