AWS 7 月 7 日宣布,Amazon EKS Auto Mode 的 GPU 與加速執行個體管理費下調。自 7 月 1 日起,G 系列的 Auto Mode 管理費降低 35%,P 系列與 AWS Trainium 的管理費降低 60%,已經使用 Auto Mode 加速執行個體的客戶不需要另外操作。
這個調整看起來像 GPU 成本下降,但實際上要先分清楚「管理費」和「運算資源本身的租用費」。AWS 下調的是 EKS Auto Mode 為客戶自動配置、管理與修復加速器節點所收的費用,不是所有 GPU、P 系列或 Trainium 執行個體的價格。企業計算總帳單時,仍要把執行個體、儲存、網路與資料傳輸費一起算進去。
EKS Auto Mode 負責的是 Kubernetes 基礎設施的日常管理
EKS Auto Mode 的定位,是替客戶自動處理 Kubernetes 叢集的部分基礎設施。AWS 文件列出的能力包括運算自動擴展、網路、負載平衡、叢集 DNS、儲存,以及 GPU 支援。對機器學習推論、微調、渲染和批次處理來說,團隊可以把注意力放在工作負載,而不用自己維護所有節點配置。
當工作負載換成 GPU 或 Trainium,節點管理的難度也會跟著提高。模型映像檔可能很大,驅動程式和硬體狀態需要持續維護,節點損壞後還要盡快替換。AWS 把這些操作包進 Auto Mode,再用管理費收費;降價的目的之一,是讓客戶更容易把加速器工作負載放進託管式 Kubernetes。

G 系列、P 系列與 Trainium 的降幅不同
這次價格調整把不同加速器分開處理。G 系列管理費降 35%,P 系列與 AWS Trainium 管理費降 60%。AWS 沒有表示所有工作負載都使用相同的費率,因此企業要先確認自己的節點型號、區域、使用方式與計費項目。不能把 P 系列或 Trainium 的降幅直接套到其他 GPU 租用價格。
對 AWS 來說,這也可能是把客戶導向更多自有加速器的方式。Trainium 需要相對應的模型框架、編譯與遷移工作,客戶會比較每小時硬體價格、管理費、效能、可用性與軟體相容性。單看管理費下降,還不足以判斷 Trainium 對某個模型一定比較便宜。
管理費下降會讓企業重新比較自管與託管 Kubernetes
企業使用 GPU 叢集時,通常有兩種成本:一種是雲端供應商提供的硬體與網路資源,另一種是工程團隊維護 Kubernetes、節點、驅動程式、修復和擴縮容的時間。Auto Mode 的管理費對應第二部分。當費用下降,客戶可以重新比較自行建立節點管理流程,和把這些工作交給 AWS 的總成本。
但託管方案也有邊界。若團隊需要特殊驅動程式、精細的節點排程、跨雲部署或完全控制資料路徑,Auto Mode 未必能涵蓋所有需求。降價會改善採用門檻,卻不會消除 Kubernetes 和 AI 工作負載之間的相容性問題。
真正的成本要回到每個模型工作負載的單位費用
AI 團隊最終需要看的不是單一管理費,而是一次推論、一次微調或一批資料處理的總成本。這包括 GPU 或 Trainium 使用時間、模型啟動速度、閒置比例、儲存與資料傳輸,以及節點故障時的重試。若 Auto Mode 的自動修復與映像檔處理能減少等待和人工維護,降價以外還可能帶來營運上的節省;但這要用實際監控資料驗證。

AWS 這次公告讓 EKS Auto Mode 的價格更容易被拿來和自建叢集比較,也讓 GPU 管理從附加服務變成更明顯的成本項目。企業在採購時應把費率、可用硬體、模型效能與維運責任一起列入,而不要把管理費下調理解成整個 AI 基礎設施市場的 GPU 價格已經全面下跌。
使用者也要注意價格生效日和自己的帳務週期。公告寫明降幅從 7 月 1 日開始,且會自動套用到符合條件的 EKS Auto Mode 叢集;但企業仍應在 Cost and Usage Report 或帳單明細中核對實際項目,確認管理費的折扣沒有被其他硬體、儲存或跨區資料傳輸費抵銷。
消息來源:AWS What’s New、Amazon EKS Auto Mode 文件。