各位台灣的朋友,歡迎來到 GTC Taiwan。
今天能回到台灣,對我來說意義非常特別。這不只是一次技術大會,也像是回家。我今天也把我的父母帶回來了。請大家給我的爸爸媽媽一個熱烈的掌聲。
也請大家把掌聲送給剛才表演的台灣小朋友們,他們實在太可愛了,也是真正的台灣之星。
今天現場有非常多朋友,同一時間,我們也正在向全台灣 70 個不同的觀看會場直播。也就是說,現在全台灣有 70 場 GTC 活動同時進行,所有人都在一起觀看這場 keynote。
今天,我有非常多事情想和大家分享,也有非常多合作夥伴想感謝。NVIDIA 在台灣的生態系,已經成長到令人難以置信的規模。
很多人一想到 NVIDIA 的生態系,通常會想到我們的軟體堆疊、開發者社群,或是建立在 NVIDIA 運算系統之上的各種應用。但真正的 NVIDIA 生態系,範圍遠遠不只如此。它一路往上游延伸到供應鏈,而這一切的起點就在台灣;它也一路往下游延伸到資料中心、AI 工廠,最後抵達每一位終端使用者。
今天,我們要談的幾乎就是整個生態系。台灣擁有世界上最豐富、最完整、也最強大的供應鏈生態系。這非常不可思議。
今年,我們共同創造的事業正在以驚人的速度成長。有人昨晚告訴我,台灣今年的 GDP 成長率可能接近 10%。這非常了不起。
那麼,我們開始吧。

實用 AI 已經到來,Token 正在變成新的經濟單位
兩年前,我在這裡和大家談到,AI 正從生成式 AI 走向下一波浪潮。那一波浪潮,就是代理式 AI,也就是 Agentic AI。
今天,我們可以非常清楚地說:代理式 AI 已經到來,真正有用的 AI 已經到來。
這代表什麼?
我們先從 GitHub 看起。軟體開發,是代理式 AI 最早、也最重要的應用之一。全世界大約有 3,000 萬到 4,000 萬名專業軟體開發者,若再加上學生與愛好者,規模更大。這是一個龐大的產業,也是全球最有價值的專業之一。
在 GitHub 上,pull request 代表開發者下載、修改軟體;commit 則代表他們把修改後的程式碼推回去。
2023 年,GitHub 上的 commit 數量約為 3 億次。
2024 年,增加到 4 億次。
2025 年,增加到 5 億次。
而在 2026 年前幾個月,這個數字幾乎已經成長到原來的 3 倍。
這代表什麼?
如果 3,000 萬名軟體工程師每年對應大約 3 兆美元的薪資產值,而這些工程師現在能產出接近 3 倍的工作量,那就等於同樣 3 兆美元的人力成本,創造出接近 9 兆美元的生產力。
這就是 AI 的潛力,也是 AI 的承諾。
很多人說 AI 會減少工作機會,這完全是錯誤的。實際上,AI 會讓更多軟體工程師被聘用。原因很簡單:如果一位工程師透過 AI 可以創造出 3 倍產出,企業為什麼不聘請更多工程師?
如果生產力曲線是平的,公司當然可能減少工程師。但現在產出大幅提升,企業反而更想聘請更多人。
這件事很快就會反映在全球經濟上。

第一個重點是:實用 AI 已經到來。AI 不再只是展示技術,它正在創造利潤,也正在創造 GDP。
這背後意味著另一件事:Token 的需求正在爆炸。
因為只要 AI 能創造價值,企業就會想要產生更多 Token。Token 現在已經成為可以賺錢的收入單位。當 Token 可以帶來利潤,AI 公司就會想建立更多 AI 工廠,產生更多 Token。
這正是台灣運算需求暴增的原因。也正是為什麼各位如此忙碌、企業業績如此強勁。
代理式 AI 改變了應用程式的基本形態
過去的電腦應用,大致是這樣運作的:應用程式裡有程式碼,程式碼跑在作業系統上。使用者開啟應用程式,點擊、輸入、執行。
但今天,新的運算模式變成了「代理」。
一個代理系統,通常由大型語言模型、代理框架、工具、技能、記憶系統與執行環境組成。大型語言模型負責思考,代理框架負責協調,工具負責執行任務,而記憶系統則讓代理能處理短期與長期資訊。
當使用者輸入一個指令時,代理必須理解輸入、觀察環境、推理問題、制定計畫、使用工具,最後完成任務。
它可以使用試算表、瀏覽器、資料庫、資料處理引擎、CAD 工具、程式編譯器,也可以呼叫各種加速運算函式庫。
這就是新的電腦運算模型。
過去,我們啟動應用程式,然後點擊與輸入。未來,我們會直接向 AI 說明意圖,AI 則會產生程式、操作工具,並交付我們需要的結果。
例如,你可以輸入一段 prompt,讓 AI 直接生成程式與視覺效果。
你也可以說:「我遺失了遙控器電池蓋,這是它的外觀,請幫我建立一個可 3D 列印的 CAD 檔。」
AI 會理解物件形狀,呼叫工具,生成可列印的設計檔。
這就是 Agentic AI。過去兩年,我們一直朝這個方向建構;而現在,它已經真正到來。

軟體不會被代理淘汰,反而會迎來更大需求
很多人問我:「Jensen,既然代理式 AI 來了,那是不是所有軟體公司都會被淘汰?」
我的答案正好相反。
因為世界不再受限於人類使用者的數量。未來會有大量代理存在,而這些代理會使用比人類更多的工具。
所以,這其實是軟體公司最好的時代。
但關鍵在於,軟體必須以代理能使用的方式呈現。工具不只是給人操作,也要能讓 AI 理解、呼叫與執行。
NVIDIA 最珍貴的資產之一,就是 CUDA 函式庫。我稱它們為 CUDA-X 函式庫。它們涵蓋計算微影、決策最佳化、稀疏求解器、深度研究、AI-RAN、可微分物理、基因體學等不同領域。
這些函式庫將成為代理的工具。
未來,每一個 CUDA-X 函式庫都會附上代理可理解的技能說明。AI 讀懂這些說明後,就會知道如何使用工具。代理使用這些函式庫的能力,甚至會比人類更有效率。
這是軟體的新時代,也是 CUDA-X 的新時代。

代理式 AI 需要全新的資料中心架構
代理式 AI 不是單一模型,也不是單一 GPU 就能解決的問題。
它是一種分散式、異質化、解耦合的運算模式。
你可以把大型語言模型想成大腦,把代理框架想成身體,把工具與執行環境想成工作坊。代理就像一位工作者,帶著工具在工作坊裡完成任務。
每一次代理觀察、理解、推理、計畫與行動,都會觸發大量運算。大型語言模型負責思考,CPU 負責工具呼叫與流程協調,DPU 負責安全隔離與資料保護,GPU 負責加速運算,儲存系統則負責記憶與資料檢索。
這裡最困難的部分之一是記憶。
代理需要工作記憶,也就是 KV Cache;也需要長期記憶。系統必須決定要記住什麼、壓縮什麼、如何檢索資料、如何處理結構化與非結構化資訊,以及不同資料之間的關聯。
AI 的記憶系統,將徹底改變儲存架構。
這也是為什麼 NVIDIA 建立了下一代系統:Vera Rubin。
Vera Rubin 不是一顆晶片,也不只是一個 GPU。它是一套完整的代理式 AI 運算系統。從 GPU、CPU、NVLink、儲存、安全處理器、網路、軟體堆疊到機櫃級系統,全部都被重新設計。
Vera Rubin 是 NVIDIA 史上最有野心的工程。這不只是 NVIDIA 4 萬名工程師的成果,也包含台灣整個供應鏈的共同參與。

NVIDIA 正從 GPU 公司,轉型為 AI 基礎設施公司
很久以前,NVIDIA 是一家 GPU 公司。後來,我們成為系統公司。今天,我們正在再次轉型,成為 AI 基礎設施公司。
因為客戶真正想要的不是買一台電腦,而是建立 AI 工廠。
AI 工廠是人類史上最大規模的基礎設施建設之一。晶片、機櫃、網路、電力、冷卻、電網,都必須從端到端一起設計。原因很簡單:運算能力就是收入。
如果每一個 Token 都能創造利潤,那麼每一瓦電所能產生的 Token 數量,就是資料中心的收入能力。
因此,NVIDIA 建立了 DGX 或 DSX 等級的 AI 工廠藍圖,從模擬、設計、建置、營運、監控、修復到電網協調,幫助客戶把 AI 工廠以最高效率運作起來。
今天的 AI 工廠,常常需要預留高達 40% 的電力容量。但透過更好的電力管理、液冷系統、動態功率分配與 AI 代理協調,資料中心可以在相同電力預算下部署更多 GPU,創造更多年收入。
到本世紀末之前,全球可能會有 100 GW 規模的 AI 工廠上線。NVIDIA 的目標,是讓這些 AI 工廠以最高效率運作,產生最低成本的 Token,同時也讓電網更穩定。
一座 1 GW 級 AI 工廠,過去可能是 200 億到 300 億美元的投資,後來變成 500 億到 600 億美元,未來甚至可能達到 800 億到 1,000 億美元。
這樣的資本投入必須一次成功,必須立刻運作。這就是為什麼我們需要在 Omniverse 裡先建立數位孿生,在真正破土動工前,先於數位世界中模擬與驗證整座 AI 工廠。

Vera Rubin 已經全面量產,為代理時代而生
今天,我很高興站在這裡宣布:Vera Rubin 已經全面量產。
Vera Rubin 的供應鏈規模,是 Grace Blackwell 的兩倍。過去組裝一個 Grace Blackwell 機櫃可能需要 2 小時,現在 Vera Rubin 的設計讓組裝時間縮短到 5 分鐘。
Vera Rubin 是第一個為代理式 AI 打造的多機櫃、Pod 級 AI 超級電腦。
它從 TSMC 開始。Vera Rubin 由 7 顆新晶片組成,採用 3 nm 製程、CoWoS 封裝,以及來自 Micron、SK Hynix、Samsung 的 HBM 記憶體。
Vera Rubin Compute Board 擁有 6 兆個電晶體,單板超過 18,000 個元件。Vera Rubin NVL72 負責思考,包括 prompt 理解、上下文處理、推理與規劃。
整個系統採用新的模組化電腦架構,透過 PCB 中板設計,減少纜線,提高可靠性。它包含 Superchip、ConnectX-9 SuperNIC、BlueField-4 DPU,以及可熱插拔的 NVLink Switch Tray。
新一代液冷匯流排可承載超過 5,000 安培電流,相當於 20 輛電動車全力加速時的電流規模。整個第三代 MGX 機櫃設計,由 130 萬個元件組成。
Vera Rubin 不是為了「跑 AI」而設計,它是為了「跑代理」而設計。
這是代理式系統。也正因如此,它需要世界上最先進的電腦。

Vera CPU:第一顆為 AI 代理打造的 CPU
接下來,我要談 CPU。
過去所有 CPU,基本上都是為人類而設計。人類是使用者,也是租用者。我們使用雲端 CPU 時,通常以秒、分鐘或小時計算。
但 AI 代理完全不同。
代理非常沒有耐心。它們不生活在「秒」的世界,而是生活在「奈秒」的世界。當代理呼叫工具、查詢資料庫、執行程式,它希望回應立刻回來。每一次等待,都會延遲下一步推理、下一步行動與下一個 Token 的產生。
所以,我們為 AI 時代打造了 Vera CPU。
Vera CPU 是為代理而生的 CPU。
它有 4 個關鍵特性。
第一,單執行緒效能必須極高。因為代理需要極低延遲,而不是只看整體吞吐量。Vera CPU 每個時脈週期可以擷取、解碼並執行 10 條指令,IPC 表現達到世界級水準。
第二,每個核心的記憶體頻寬必須非常高。代理會頻繁搬移資料,CPU 不能成為 GPU 的瓶頸。
第三,晶片內部與外部的總頻寬必須極高。代理式系統是解耦合、分散式的運算模型,資料需要在 CPU、GPU、儲存與網路之間快速流動。Vera CPU 的內部互連頻寬達到 3.6 TB/s,並支援 PCIe Gen 6 與 LPDDR5X,記憶體頻寬達到 1.2 TB/s。
第四,它必須極度省電。因為 AI 工廠裡最重要的經濟來源是 GPU 產生 Token。CPU 必須強大,但不能搶走過多電力。
Vera CPU 在真實工作負載上的表現非常驚人。例如 SQL 查詢可以達到 3 倍效能提升;即時串流處理可達 6 倍效能提升。對 CPU 來說,這種倍數級成長非常罕見。
這不只是一次 CPU 升級,而是一個全新市場的開始。
過去,我們為人類打造 CPU。未來,我們要為數十億甚至更多 AI 代理打造 CPU。這個市場會比過去更大,因為代理的數量會遠遠超過人類,而且代理比人類更沒有耐心。

企業 AI 工具包:每家公司都會成為代理公司
接下來這張圖,是今天最重要的重點之一。
未來 10 年,應用程式的基本形態會是代理。代理由模型、代理框架、工具、技能與執行環境組成。每家公司都會使用代理,每家公司都會成為代理公司。
企業現在最常問我們的問題是:我們要如何安全地執行代理?如何建立適合自己工作的代理?
因此,NVIDIA 建立了企業 AI 的代理工具包。
這套工具包包含 4 個關鍵部分。
第一是模型。大型語言模型越聰明越好,越快越好,成本越低越好。
第二是代理框架,也就是協調模型、工具與記憶系統的 harness。
第三是工具與技能。這些工具包含 CUDA-X 函式庫,也包含企業自己的軟體與資料系統。
第四是執行環境。這就像代理時代的作業系統,負責安全、權限、身分、資料保護與政策控管。
NVIDIA Open Shell 是我們開源的安全代理執行環境。它可以保護代理,讓代理在企業安全政策內運作,同時保護隱私、權限與身分。
這套系統可以跑在雲端、企業內部、邊緣設備,也可以跑在 PC 上。

Cadence 與 NVIDIA:晶片設計代理把週期從數週壓縮到數小時
代理式 AI 最讓我興奮的應用之一,是晶片設計。
晶片設計是 NVIDIA 最重要的工作之一,因此我們與 Cadence 合作,打造晶片設計超級代理。
設計晶片是世界上最困難的工程挑戰之一。數兆個電晶體、三維電路、微觀尺度,每一道閘、每一條線都要精準同步到皮秒等級,幾乎沒有錯誤空間。
傳統流程中,工程師需要撰寫 RTL、建立測試平台、執行模擬、找錯、修正,再重新驗證。一次循環可能需要數週。
現在,Cadence 與 NVIDIA 共同打造設計驗證代理。Codex 負責協調流程,Cadence 工具負責 RTL 驗證,Nemotron 負責推理,NVIDIA Open Shell 負責安全執行。
這套系統可以呼叫 RTL 生成、測試平台建立、回歸測試與除錯等子代理,並自動執行數百次模擬。它能找出設計缺陷,修正程式錯誤,把過去需要數週的驗證流程,壓縮到數小時。
驗證循環速度提升超過 40 倍。
NVIDIA 有數千名晶片設計工程師。未來,我們會聘用數十萬個 Cadence 超級代理,與我們一起工作,讓公司能更快、更大膽地創造下一代技術。
Nemotron 3 Ultra:開放模型讓每家公司打造自己的代理
要打造企業代理,必須先有一個強大的基礎模型。
這就是 Nemotron。
NVIDIA 致力於為世界建立開放模型,讓每家公司都能打造自己的代理。今天,我們宣布 Nemotron 3 Ultra。
Nemotron 不只提供模型本身,也提供訓練資料與訓練方法。透過與合作夥伴共同建立的資料集,Nemotron 訓練於大量長推理、長任務解決與工具使用資料上。
Nemotron 3 Ultra 是基於混合架構的新模型,結合 SSM 狀態空間模型與 Mixture of Experts。它速度快、成本低、推理能力強。
與世界上最好的開放模型相比,Nemotron 3 Ultra 速度快 5 倍,執行成本降低 30%,同時完全開放。
我們提供模型、資料與訓練腳本,讓企業可以加入自己的專業知識,把它變成自己的專有代理模型。
與 Microsoft 共同重塑 PC:代理會進入每一台個人電腦
我的許多台灣合作夥伴與朋友,都是從 PC 產業開始的。40 年前,PC 改變了世界。Windows 95 讓 PC 從企業工具變成每個人都應該擁有的消費電子產品。
40 年後,Microsoft 與 NVIDIA 將一起重新發明 PC。
新的 PC 不只是舊作業系統加上應用程式。它會是舊作業系統,加上大型語言模型,再加上代理執行環境。
大型語言模型就像現代版的 DirectX。它可以理解 prompt、處理視覺、生成影像、生成聲音,也能成為電腦的智慧延伸。
今天,我們推出 RTX Spark。
RTX Spark 是為 AI 時代重新設計的 PC 平台。它搭載 Blackwell RTX GPU,擁有 6,144 個 CUDA 核心、1 PFLOP AI 效能;也搭載與 MediaTek 共同打造的 20 核 Grace CPU,透過 NVLink 連接,配備 128 GB 統一記憶體,採用 TSMC 3 nm 製程,包含 700 億個電晶體。
RTX Spark 不只是用來創作與遊戲,也能在本地執行代理。
你可以在筆電上執行代理,讓它使用 Rhino、Blender、Flux 2 等工具,協助你從概念草圖、基地條件與風格 mood board 開始,自動建立房屋設計、內部空間、材質、渲染與寫實影像。
過去複雜的創作流程,會被代理引導與簡化。
Adobe 也重新設計 Photoshop 與 Premiere 的核心架構,將支援 RTX Spark,速度提升 2 倍,並透過 MCP Server 讓軟體能與筆電上的代理互動。
這是 40 年來 PC 最大的一次改變。

個人 AI 超級電腦:未來每個家裡都可能有一台 AI 主機
RTX Spark 重新定義筆電,但 Microsoft 與 NVIDIA 正在重新定義整個 PC 產品線。
今天,我們宣布 3 種全新的 Windows 機器:筆電、桌機與工作站。它們 100% 相容 Windows,100% 支援 CUDA,也 100% 支援 NVIDIA AI Tensor Core。
桌機版本可以 24 小時運作,成為你的個人 AI 代理主機。它可以連接你的筆電、螢幕、攝影機、家電、安全系統,成為家中的個人 AI。
而 DGX Station for Windows 則擁有 768 GB 記憶體,可執行 1 兆參數模型,提供 20 PFLOPS 運算能力與 8 TB/s 記憶體頻寬。對大型語言模型與代理開發者來說,這就像把一座小型 AI 超級電腦放在桌邊。
我相信,10 年後我們對 PC 的理解會完全不同。
今天我們說「手機」,其實很少真的用它打電話。手機已經變成完全不同的裝置。未來 PC 也會如此。它不再只是你開啟應用程式、點擊與輸入的工具,而會變成一個持續運作、理解你、協助你的 AI 系統。
我甚至可以想像,有一天每個家庭都會有一台 AI 超級電腦,就像今天很多家庭有家庭劇院、遊戲機、音響與大型電視。它會執行你的代理、你的助理,全天候為你完成各種工作。
它會越來越像 R2-D2 或 C-3PO,而不再像傳統 PC。
這次電腦的重塑,重要性不亞於手機變成智慧型手機。

代理式 AI 會進入汽車、機器人、基地台、衛星與工廠
代理式 AI 本質上就是數位機器人。它能理解、推理、計畫、行動,並使用工具。
這種模式不只會出現在雲端、企業與 PC,也會出現在自駕車、機器人、衛星、基地台、農業設備、製造設備與重工業設備中。
未來的基地台也會是代理式的。它會理解流量,與其他基地台協調,以最少能耗提升頻譜效率。
今天 NVIDIA 主要仍在資料中心中心位置,但我相信未來會有數百億甚至數千億個代理式系統,分布在世界各地。
其中最大的問題,是資料。
語言模型可以從網路上的語言資料中學習,因為那些資料是人類寫給人類看的。但物理 AI 與機器人需要的是從機器人視角理解世界的資料。大多數影片資料都是第三人稱視角,不是機器人第一人稱視角。
因此,物理 AI 最大的挑戰是資料。

Cosmos 3:物理 AI 的世界基礎模型
為了解決物理 AI 的資料問題,我們建立了 Cosmos。
今天,我們宣布 Cosmos 3。
Cosmos 是為物理 AI 打造的開放式前沿世界模型。它可以理解影像、動作、聲音與語言,也能生成物理一致的合成影片,支援模擬、訓練與政策評估。
當 Cosmos 作為視覺語言模型時,它能觀察物理世界並描述正在發生的事。
當它作為世界模型時,它能從影像、文字或影片生成符合物理邏輯的合成影片。
當它作為模擬器時,它能用於機器人策略訓練與評估。
當它作為世界行動模型時,它能預測未來畫面,並生成機器人動作。
過去,我們說資料加運算會產生 AI。現在,有了 AI 之後,運算本身也能產生資料。
Cosmos 3 就是物理 AI 時代的基礎模型。
Alpamayo 2:會推理的自駕車
今天,我們也宣布 Alpamayo 2,這是一個開放式自駕車模型。
我們正在與全球車廠合作。採用 NVIDIA Hyperion 平台的車廠,合計代表全球約 80% 的汽車產量。我們也與全球約 97% 的 mobility service 生態系連接。
Alpamayo 是世界上第一個會推理的自駕車系統。
它不只是看見道路,也會理解情境。它能判斷前方停車、行人穿越、車輛切入、卡車阻擋車道、路口讓行等狀況,並說明自己為什麼減速、變換位置或停車。
如果你讓它一直說話,可能會很吵。但我們很高興它會對自己說話,因為那代表它正在思考。

Isaac GR00T:為人形機器人建立開放平台
同樣的技術也適用於人形機器人。
NVIDIA Isaac GR00T 是我們的人形機器人技術堆疊,包含模型、資料生成、模擬、訓練、執行環境與作業系統。
無論是雲端代理、PC 代理、自駕車,或人形機器人,本質上都是同一種模式:模型、代理框架、工具、技能與執行環境。
但機器人系統非常複雜。它有大量馬達、感測器與控制系統,且非常脆弱。研究團隊如果每次都從零開始建立硬體、模擬、遙操作、資料管線與訓練基礎設施,會花費大量時間。
因此,我們今天宣布 NVIDIA Isaac GR00T 參考人形機器人平台。
這是一套完整整合的開放式開發平台,包含每隻手 25 個自由度、機器人本體 31 個自由度,身高約 6 英尺,重量約 150 磅,搭載 Jetson Thor 與完整 NVIDIA 軟體堆疊。
它是為大學與研究機構打造的,讓研究者可以在幾小時內開始工作,而不是花幾個月搭建環境。

結語:過去 6 個月,電腦產業已經完全改變
讓我總結今天談的內容。
過去 6 個月,電腦產業已經完全改變。原因是代理式 AI 真正成熟了,並與最新前沿模型匯合,使 AI 能開始執行有用的工作。
未來的運算模式會不斷重複同一個架構:模型、代理框架、工具、技能與執行環境。這套架構會出現在雲端、企業內部、PC、機器人、汽車、衛星、基地台、工廠與邊緣設備。
Vera Rubin 已經全面量產。Grace Blackwell 是為 AI 推論而設計,而 Vera Rubin 是為代理式 AI 而設計。它不只是一個 GPU,而是一套完整的分散式代理處理系統。
NVIDIA 也已經從 GPU 公司、系統公司,進一步成為 AI 基礎設施公司。我們的使命,是幫助客戶用最快速度建立 AI 工廠,創造最高收入與最高利潤。
Vera CPU 是為代理而生的 CPU,因為未來的 CPU 不只服務人類,也要服務數十億代理。
Microsoft 與 NVIDIA 正在重新發明 PC。這是新產品線的開始,也是 40 年來 PC 產業最大的一次重塑。
同樣的代理式運算模式,也會進入機器人、自駕車、衛星、基地台、工廠、雲端、企業與邊緣。
我想感謝台灣的每一位合作夥伴、每一位朋友。沒有你們,我們不可能走到今天。我為你們過去一年的成功感到驕傲,而接下來一年,會更加精彩。
謝謝台灣。
歡迎來到 Computex。祝大家有一場精彩的大會。
謝謝大家。