輝達GTC大會,執行長黃仁勳這次最用力賣的不是過去大家常見的巨大GPU,他花了大篇幅介紹的,竟然是Vera CPU。
你沒聽錯,是一顆CPU處理器。
2024年黃仁勳都還在大聲疾呼「買愈多,省愈多(GPU)」,但 2026年他卻在強調「Agentic AI(AI 代理)的瓶頸在 CPU。」
為什麼是CPU?
原因是,AI已經從訓練邁向推論。
「推論的拐點已經到來,支撐這個拐點的不再只是算力,而是編排(Orchestration),」黃仁勳對著全球媒體預言。
輝達資料中心CPU產品管理總監夏納新罕(Shar Narasimhan)接受《天下》專訪時直言,這就像是一條鏈條,最強度取決於最弱的一環,「如果有一部份運行太慢,它就會成為整個AI工廠的瓶頸。」
就在GTC結束隔週,24日安謀(Arm)執行長哈斯(Rene Haas)在美國舊金山發布Arm史上第一顆自研實體晶片Arm AGI CPU,首批合作對象就有Meta、OpenAI。
這不是巧合,而是科技巨頭們看準了同一個獵物:AI推論與代理人的核心調度權。
為何CPU在推論時代重新抬頭?
首先,CPU才是 AI代理的大腦。
AI代理是無數次的推論過程,是從「生成」走到「決策」。
在機櫃中,GPU擅長大量重複計算,但Agentic AI需要「思考」如何拆解任務、調用軟體、檢查錯誤。
「大家以為GPU是大腦,其實在Agentic AI時代,GPU是肌肉,CPU才是前額葉。它要決定什麼時候該呼叫搜尋、什麼時候該驗證程式碼,」黃仁勳解釋。
夏納新罕解釋「前額葉」的工作,就是當GPU運行的大模型正在學習如何思考時,它會不斷拋出推論結果問CPU:「我猜對了嗎?」CPU必須即時驗證、反饋,否則GPU就會陷入無止盡的錯誤循環中。
為了讓這套「神經傳導」夠快,輝達在Vera CPU中導入了1.2 TB/s 的超高頻寬。
更關鍵的是,夏納新罕透露,Vera採用了一個關鍵技術。傳統CPU處理多項任務時是輪流執行,像是在切換頻道,但Vera能讓不同任務在硬體層級同步進行,確保AI代理人在調用API時不需要排隊。
台灣大學資工系教授徐宏民觀察,輝達此次GTC強調CPU的動作,背後凸顯已不是GPU獨大,「特別在推論上,今年推論(服務用戶)的量超過三分之二,所以算力是拿來燒Token(編按:AI處理文字時的最小單位)為主,」他表示。

經濟學的對決,為什麼不能只有「快」?
輝達GPU不是很快很強嗎?然而,在推論戰場上,「快」只是門票,「便宜」才是贏家的關鍵。
被譽為「CUDA 之父」的輝達副總裁巴克(Ian Buck)在受訪時,透露CPU重新抬頭的另一個經濟考量——基礎設施的效率。
市場上雖有如LPU(語言處理單元)這類追求極致速度的晶片,但巴克指出,「如果要跑一個萬億級參數的模型,純靠LPU可能需要數十個機櫃,這在經濟上極度不划算。」
「Vera CPU與Rubin GPU結合,能將原本需要幾十個機櫃的工作量,縮減到僅僅兩個機櫃內完成,」巴克說。對企業而言,這不僅是效能提升,更是營運成本下降。
想要降低成本就要靠CPU,CPU在AI工廠中扮演總調度員,確保昂貴的算力資源不會被浪費在無謂的等待與資料搬運中。
為何不選英特爾或超微CPU?
為何輝達還要大費周章自研CPU?明明市場有英特爾和超微市佔九成以上的x86 CPU。
黃仁勳犀利回應,「如果你用通用型CPU(x86)去跑Agentic AI的編排,你就像是在用一台載客巴士去送快遞。它能送到,但油錢(功耗)和時間(延遲)會讓你的Token成本貴到沒人想買。」
夏納新罕補充,傳統x86 CPU是為了雲端租賃、電玩設計的,追求的是核心數。但Agentic AI需要的是「最強的單核效能」與「最低的能源消耗」。
因此,夏納新罕透露輝達做了一個跌破眼鏡的選擇,在資料中心CPU上,使用原本專屬於智慧型手機的低能耗LPDDR記憶體。這是為了在有限的電力範圍內,最大化推論時每瓦產生的Token數。
「CPU必須為了AI重新設計。x86的問題不在於它不強,而在於它太『通用』。在AI工廠裡,我們不需要通用,我們需要『極致的專才』,」黃仁勳這句話,為CPU的重新抬頭定下了最終的基調。
Arm推自研晶片與客戶直接競爭?
值得玩味的是,這場「CPU復興運動」正在模糊矽谷長久以來的敵友界線。
就在黃仁勳高喊CPU重新抬頭的同時,長期隱身幕後的架構巨頭Arm,竟打破30年來的慣例,發布自研實體晶片 Arm AGI CPU。
這場發布會震撼了半導體業界。
過去,Arm的成功核心在於其「絕對中立」,它只賣設計圖(IP授權),不賣實體晶片。但這次Arm親自下場,首批合作對象更鎖定Meta。
「這可能是Meta想嘗試新概念,」Digitimes 產業分析師姚嘉洋觀察。
過去資料中心只有處理一般任務(如網路、儲存)的通用CPU,以及處理模型運算的AI加速器,他認為,Meta試圖在兩者之間,切出一塊專為AI Agent設計的客製化CPU領地。
對於Arm來說,從賣IP轉向賣實體晶片,量體完全不同,是商業上極大的加分策略。但這也意味著Arm正在打破長久以來的「防火牆」,直接跨入原本屬於客戶的領地。

Arm加入戰局,威脅ASIC設計公司
這種轉變,讓輝達與Arm的關係變得有點微妙。
表面上,輝達的Vera CPU正是基於Arm架構開發,兩者是合作無間的盟友;但私底下,Arm推出的AGI CPU,在客製化市場中卻與輝達形成了潛在競爭。
不過,這名資深分析師認為兩者現階段並非完全競爭。他分析,即使Meta採用Arm的客製化CPU來處理AI Agent的邏輯調度,它依然需要採購輝達的GPU(如GB200/GB300)來進行繁重的訓練與推論運算。換言之,即便Arm把客製化CPU這塊生意拿走,輝達依舊繼續統治算力核心。
「真正可能被威脅的,反而是高通、聯發科,以及博通等ASIC設計服務公司,」姚嘉洋直言Arm的「開槍」,直接切斷了這些公司原本想跨入客製化CPU的路徑,迫使他們繼續守在AI加速器與網路晶片研發。
當被問及Arm可能開發晶片時,黃仁勳也大氣回應,「很高興看到Arm終於意識到CPU必須為了AI重新設計,」;他也為Arm的AGI CPU錄祝賀詞。
CPU的重新抬頭,不僅是運算架構的演進,也再掀起一場新戰局。(責任編輯:宋玟蒨)
天下總主筆陳良榕專欄。半導體狂熱、科技巨頭謀略的最犀利解讀
看懂科技大勢,獨家解讀
請查看您的信箱,我們將寄送驗證信給您,確保未來信件會送到您的信箱