「這有夠水啊!」台南出生的輝達創辦人黃仁勳,6月台北國際電腦展(Computex)期間,為伺服器代工大廠美超微站台時,一見到講台上比人高的AI伺服器機櫃,戲劇性地用台語大聲稱讚,讓台下觀眾爆出一陣笑聲。
這是輝達最新的機櫃參考設計「GB200 NVL72」,史無前例地在單一機櫃裡密密麻麻塞進72顆GPU,黃仁勳因此將之譽為「人類史上最複雜的電腦」。但一台要價300萬美元,接近1億台幣——也是史上最貴的AI伺服器機櫃。
這個「億元櫃」,是今年Computex的大明星。美超微、技嘉、緯穎都擺在最顯眼處,上面都有黃仁勳龍飛鳳舞的親筆簽名,供群眾圍觀。
它也代表輝達商業模式的變革,以及一場山雨欲來的產業風暴。
賣起AI解決方案
一位外資分析師告訴我,市場傳言,輝達第三季開始出貨的GPU最新系列Blackwell,未來將有七成裝在這類機櫃出貨,大幅減少零賣的比例,「現在大家在吵這個。」
這讓我想到3月份輝達GTC大會,黃仁勳在主題演講的一段話,「大家都說我們是做GPU的,但我們現在的『GPU』重達3000磅、有60萬個零組件……」他身後的大螢幕上,適時放出一台巨大機櫃示意圖——也就是GB200 NVL72。
這位AI教主當時已暗示,輝達將從賣GPU,逐步變成賣整個機櫃,說得更正式一點:AI解決方案供應商。
摩根士丹利證券估計,2025年搭配輝達GB200的機櫃將出貨3萬台,其中輝達自有品牌DGX NVL72機櫃可達2萬台,這將代表600億美元營收貢獻。
光這塊就足以超過戴爾,讓輝達成為世界最大資料中心基礎設施供應商。
效能和價格都驚人
其實輝達要賣機櫃,有其技術上的合理性。
「億元櫃」背面有顯眼的5000根銀白線纜,這代表輝達威震業界的第五代NVLink技術,能以驚人的高速通訊讓72顆GPU如同一顆超大GPU般運作。
輝達並首度導入複雜的水冷式散熱,每個伺服器滑軌架後面都有外接水管,導入25度的常溫水,來吸收高速運算的高熱。
結果驚人,這個輝達最新AI機櫃訓練大型語言模型的速度,是上一代的4倍,而且能耗還大降。
「這個系統真的是操到極限,每個環節都最優化,才有辦法做到這麼有競爭力,」一位半導體專家評論。
當然,代價極高昂。「億元櫃」有高達七成金額的零組件由輝達自家供應,除了AI晶片組,還有多顆輝達自行設計的網通、資料管理晶片,讓輝達的機櫃業務仍可享有七到八成的驚人毛利率,「他(黃仁勳)很敢,就是要賣這麼貴,」分析師表示。
業界指出,已有雲端業者正絞盡腦汁,要將輝達機櫃的昂貴「原廠件」,換成「副廠件」,例如將對外連結的網通晶片換成博通產品,可省一半成本,但又擔心因此付出效能下降的代價,而陷入兩難。
台廠獨特價值受影響
過去AI資料中心的採購,已演化為「白牌伺服器」模式。廣達、緯穎拿到輝達GPU,再採購網路交換器、散熱模組等其他零組件,為微軟、亞馬遜等大型雲端客戶量身組裝成AI機櫃。
因為中間跳過戴爾等傳統伺服器品牌,而且自主性、技術含量較高,因此該模式又稱為「ODM直供」,被視為台廠在電子產業價值鏈向上爬的一大成就。
但在壟斷市場的輝達主導下,未來台灣AI伺服器代工廠,可能打回原形,回到完全依樣畫葫蘆、不能修改設計的EMS模式,類似鴻海組裝iPhone。
一位伺服器代工大廠主管說,這對硬體台廠是壞消息,未來各家產品很難有差異化,「以後就是一起穿制服了,」他無奈說,「我們沒有能力跟輝達討價還價。」
類似的事情,十多年前也發生過一次。在筆電是台灣電子組裝業主要業務的時代,ODM模式也曾大行其道。但在蘋果推出iPhone、成為台灣電子業最大買主之後,EMS代工模式便躍居主流。
在「大家一起穿制服」的新變局,誰會是最大贏家?一個不讓人意外的名字——鴻海。
鴻海成為iPhone代工之王的一大關鍵,除了經濟規模,還有其供應金屬機殼、接頭等關鍵零件的強大精密製造能力。這套模式,也複製進入AI機櫃代工。
摩根士丹利指出,鴻海是輝達「億元櫃」的最主要代工廠,估計佔七成出貨量,甚至內部零件如GPU基板、水冷散熱單元、接頭等,均由集團旗下企業包括鴻準、鴻騰等承製。
「所以今年鴻海股價才會飆這麼高啊,」分析師笑著說。
(雜誌原標題為:輝達「億元櫃」 讓台廠失去差異化/責任編輯:王儷華)
天下新聞室精選最具時效性、最重要的深度內容,每週五發送
精選當週熱文,週五寄送
請查看您的信箱,我們將寄送驗證信給您,確保未來信件會送到您的信箱