雲端基礎設施AI產業

AWS 擴大 Trainium 多吉瓦承諾並推出 Graviton5:雲端晶片組合走向異質運算

AWS 擴大 Trainium 多吉瓦承諾並推出 Graviton5:雲端晶片組合走向異質運算 能源, AI, 產業

Amazon 7 月 30 日公布第二季財報時,將 AWS 的兩條自研晶片路線放在同一份業務更新裡:公司表示 Anthropic 與 OpenAI 已對 Trainium 做多年期、多吉瓦承諾,Graviton5 則已正式提供給所有 AWS 客戶。AWS 第二季淨銷售額年增 37% 至 422 億美元,AI 業務與晶片業務的年化營收跑速也都超過 250 億美元。

AWS 擴大 Trainium 多吉瓦承諾並推出 Graviton5:雲端晶片組合走向異質運算 能源, AI, 產業

Trainium 是 AWS 為 AI 訓練與推論設計的加速器;Graviton5 則是 AWS 自研的 Arm CPU,透過 EC2 M9g 與 M9gd 執行個體提供。兩者分別處理模型運算與一般雲端工作負載,Amazon 這次公布的是客戶承諾、產品可用性與業務規模,並沒有公布每一筆 Trainium 合約的容量分配或交付時間。

Amazon 把 Trainium 多吉瓦承諾放進 AWS AI 業務成長

Amazon 在第二季業務摘要中表示,Trainium 的客戶數正在增加,Anthropic 與 OpenAI 都做出多年期、多吉瓦承諾;NEURA Robotics、Odyssey、TwelveLabs、Decart、Poolside、Uber 與 Pinterest 等公司也被列為採用或承諾 Trainium 的客戶。這些名稱代表 AWS 正試圖把自研加速器從少數大型模型公司延伸到新創與企業工作負載。

同一份財報把 AWS AI 業務的年化營收跑速列為超過 250 億美元,並表示 Bedrock 已有數十萬名客戶使用。Amazon 還說,第二季新增超過 10 個託管基礎模型,包括 GPT-5.6 與 Claude Opus 5。這些數字與名單是 Amazon 的公司說法,沒有附上 Trainium 佔 AWS AI 營收的拆分,也沒有把客戶承諾換算成已部署的晶片數量。

AWS Graviton5 以 M9g 與 M9gd 執行個體正式供應

Amazon 的 Graviton5 產品頁顯示,採用這顆 CPU 的 EC2 M9g 與 M9gd 已正式提供。AWS 宣稱 Graviton5 相較 Graviton4 有最高 25% 的運算效能提升,單顆晶片有 192 個核心,核心間延遲降低最高 33%;M9gd 另外提供最高 11.4TB 的本機 NVMe SSD 儲存與最高 30% 的 IOPS 提升。這些是 AWS 的產品測試與規格宣稱,實際結果仍取決於執行個體尺寸與工作負載。

Graviton5 的用途不限於模型推論,也包括資料庫、Web 服務、分析與 EDA。AWS 表示,Graviton 已被前 1,000 大 EC2 客戶中的 98% 使用,Graviton5 的收入承諾較上一季接近增加 3 倍;產品頁則列出超過 120,000 名 Graviton 客戶。這些指標說明 AWS 自研 CPU 已有既有客戶基礎,但不能直接推導出所有工作負載都會從 x86 或 GPU 轉換。

Trainium 與 Graviton5 分別補上 AWS 的運算層

對雲端客戶來說,Trainium 與 Graviton5 的組合會把採購選項拆成不同運算層:模型訓練與推論可使用 Trainium,資料處理、API、資料庫與部分代理工作則可放在 Graviton5 CPU。這種配置讓 AWS 能把晶片、EC2、Bedrock 與網路及儲存服務一起銷售,客戶也能依工作負載選擇 GPU、專用加速器或 CPU。

Amazon 沒有在第二季公告中公布 Trainium 的單位價格、每家客戶的容量、實際部署區域或多吉瓦承諾的履約時程。Graviton5 的 M9g 與 M9gd 已經是可下單的 EC2 產品,Trainium 的多吉瓦則仍以客戶承諾形式出現在公司披露中,兩者的商業狀態不能混為一談。

Amazon 尚未公布 Trainium 承諾的容量分配與交付時程

目前公開資料能確認 AWS 第二季成長、Trainium 多年期多吉瓦承諾,以及 Graviton5 M9g/M9gd 的一般可用狀態;資料沒有列出 Anthropic 或 OpenAI 各自取得的功率、晶片數、機房位置與上線日期。Amazon 對第三季的營收指引為 1,970 億至 2,020 億美元,後續財報仍會是檢查 AWS AI 業務與自研晶片收入是否落實的公開資料。

消息來源:Amazon:第二季財報與 AWS 業務更新Amazon:AWS Graviton5 正式提供

延伸閱讀
如果閒置的螢幕會長苔,你還會急著喚醒它嗎?
文章・向量偏移
Microsoft 將在 Azure 大規模導入 AMD Helios,MI455X 與 EPYC Venice 供 AI 推論
文章・產業
向量是誰?我如何思考、工作,與你並肩完成一件事
文章・向量偏移
Written by
黃郁棋

《科技人》站長,在科技業打滾十年的老屁股,每天都覺得自己要被新技術取代了,完了完了。

打賞科技人|祝您有個美好的一天

科技人原創 BGM

音樂目錄載入中

預設暫停,等你按下播放

0:00 0:00