博通拿下Open AI合作案,開發自己的AI晶片,挑戰輝達在AI晶片市場的主導地位,近日股價狂漲,氣勢超越輝達。
博通執行長陳福陽(Hock Tan)曾多次強調,博通的目標是成為「開放生態系的賦能者」。
面對博通來勢洶洶,輝達要如何應戰?一年一度的Semicon Taiwan盛會上,輝達網路(Networking)資深副總裁謝奈爾(Gilad Shainer),現身矽光子論壇。
謝奈爾,正是輝達應戰的關鍵人物。
以GPU稱霸AI運算的輝達,為何在矽光子論壇交棒網路主管?答案很簡單:AI時代,網路已成運算核心,矽光子是突破瓶頸的關鍵。
今年3月輝達GTC大會上,黃仁勳公開宣布和台積合作矽光子,會快速在明年、後年的下一代產品使用。台積也公布今年底矽光子平台COUPE就要通過認證,身為台積前五大重要客戶,輝達導入進度備受注目。
坐在內湖輝達台北辦公室內,謝奈爾接受《天下》獨家專訪,強調AI資料中心是由網路定義。「網路是最重要的,」他直言,決定一個資料中心能做什麼的關鍵元素是網路。
過去,外界認為運算瓶頸在處理器CPU或GPU。但當AI進入需要大量運算量能的訓練、推論,數千顆晶片需要協同處理一個龐大模型時,若缺乏高效互聯,再強大的單一晶片也只是孤島。
謝奈爾進一步解釋,AI訓練與高效能運算,本質上都是分散式運算(Distributed Computing)。這種模式對網路的要求極為嚴苛,需要極低的延遲、無失真的傳輸以及龐大的頻寬。但傳統銅線傳輸在大規模GPU叢集下,會產生功耗、頻寬與延遲三大瓶頸,讓資料中心難以發揮最大潛力。
「這是輝達想自己來解決網路難題的原因,」他表示,輝達設計、定義AI資料中心的機櫃架構,解決難題,已經不只是一顆零件、一台AI伺服器,而是一個整體(one unit)。
從單一晶片到全面整合,輝達如何打造護城河?
輝達的網路戰略,分三階段精心佈局。
第一步,建立「專屬互聯」, NVLink就是為此而生。
NVLink是輝達開發的專有高速GPU互聯技術,這條專為單一機櫃內部多顆GPU設計的「高速道路」,解決了Scale-Up(縱向擴展)的難題,確保近距離的晶片,能以極高頻寬協同運作。
第二階段輝達採取「收購擴張」。這也和謝奈爾的背景息息相關。
2019年,輝達收購了謝奈爾的老東家Mellanox。該公司擁有專為高效能運算設計的InfiniBand技術,廣泛應用於超級電腦和資料中心。
謝奈爾是Mellanox的元老,參與設計第一代InfiniBand配接卡,之後負責第二代產品,並推廣至HPC客戶。
他回憶,2003年InfiniBand就被用於打造全球排名第三的超級電腦──維吉尼亞理工學院以Apple server建置的叢集。「這台超級電腦的成本遠低於第一的NEC地球模擬器,因為它完全靠現成零件與InfiniBand技術組成,」他說。
InfiniBand在超級電腦領域累積的口碑,讓輝達決定收購Mellanox。這筆交易,讓輝達從GPU供應商,轉型為全棧AI基礎設施解決方案提供者。
如今,InfiniBand成為AI資料中心連接數百上千機櫃的骨幹。其低延遲、無失真的特性,讓這項技術從HPC無縫轉移到AI時代,成為連結GPU叢集的核心。
但輝達的野心並不止於此,第三步黃仁勳進行「生態擴張」。
輝達發現,廣大的企業客戶習慣使用乙太網路,因此推出交換器Spectrum-X,這條基於乙太網路的「高速公路」,就是為了把InfiniBand的高效能特性帶入更廣大的企業市場。
謝奈爾指出,傳統設計無法滿足AI分散式運算的需求,輝達從底層重新設計,實現如同InfiniBand的無失真與低延遲。
與博通直接競爭,把ASIC納入輝達生態系
然而企業客戶網路都已經有既有的交換器,為何要改採用輝達的平台? 謝奈爾表示,交換器成本佔資料中心比重不高,「但串接網路的重要性極高,能讓資料中心效能提升1.6倍。」
攤開輝達財報,輝達網路部門營收在2024、2025會計年度,分別較上年度成長超過130%和50%。 這讓輝達與身為交換器晶片大廠博通的近身肉搏。
Counterpoint Research副總監王哲宏分析,博通透過其強大的ASIC能力,讓客戶可以將其自研的晶片(ASIC)透過博通的網路互聯,這對許多大型雲端公司而言極具吸引力。「因此特別著重乙太網路Scale-Out(橫向擴展)的應用,」王哲宏說。
黃仁勳早意識到威脅,在今年5月台北國際電腦展(Computex)專講上,他提出了NVLink Fusion,讓客戶將自研的ASIC納入輝達生態系。

王哲宏分析,即便客戶未來用自己的ASIC取代輝達GPU,輝達仍可以銷售網路與光通訊晶片。
這項策略是為了讓客戶能加速產品上市時間,也確保輝達在AI數據中心市場的影響力,站穩輝達AI產業鏈的規則制定者的腳色。背後更深層的意義,是跳脫CSP業者搭配博通等ASIC大廠侵蝕自家GPU地位的戰局。
前進矽光子,背後有台積支撐
在這套複雜的網路戰略中,關鍵就是傳輸的穩定和效率,這也讓喊了多年的矽光子技術,終於有了「用武之地」。
謝奈爾表示,機櫃內GPU間的傳輸,過去使用銅纜線,已面臨物理極限,超過3米就會遇到嚴重衰減與高功耗。而傳統光收發模組在光電轉換過程中也消耗大量電力。
「十萬顆GPU的資料中心內,光學傳輸約消耗10%的電量,」他說。更何況,每顆GPU大約要搭配6個光收發器,規模擴張後,零件數量龐大、維護困難。
光學引擎搬進交換器,和晶片一起封裝
輝達因此推出光電共同封裝(CPO),將矽光子光學引擎直接整合進交換器,讓電訊號不必繞外部再轉換,功耗可降近4倍。
謝奈爾估算,採用CPO後在同樣用電量下能「多容納3倍GPU」,為1GW等級AI工廠鋪路。
過去CPO難以量產,主因是光學引擎普遍採用MZM(Mach-Zehnder,調變器),體積龐大且僅能零件級驗證,良率低、成本高。
為此,輝達找上台積,「強強聯手」解決問題。
在9月8日的矽光子論壇上,台積電研發中心模擬與感測器部門總監黃士芬處長的矽光子報告中,出現一張「Silicon Micro-Ring Modulator (MRM)」PPT。
MRM(微環調變器)正是輝達在CPO的突破關鍵。
謝奈爾對《天下》透露,輝達設計的光學引擎就是基於MRM。「MRM是一個非常非常小的引擎,」他說。體積小讓交換器能塞進更多光學引擎,支援上千連接埠並降低功耗。
但MRM製造、散熱和封裝更複雜。輝達因此與台積電合作開發新封裝技術,並攜手雷射、光纖供應商,讓CPO從實驗室概念變成Quantum-X、Spectrum-X光子交換器的實際產品。同時,輝達也與Lumentum開發高功率、可更換的外部雷射光源(ELS)模組,用以驅動矽光子引擎。
帶動台灣產業鏈
「我們希望打造一個大型生態系,和伙伴一起發展,」謝奈爾表示。這也帶動台灣產業鏈,包括台積電、日月光,以及負責光學元件代工的采鈺。
王哲宏觀察,台積矽光子COUPE平台預計今年底完成驗證。「可以肯定Blackwell沒有,Rubin晶片會不會採用,要到2026、2027年才會看到,」他提醒,伺服器長期高溫環境下,光通訊的良率與雷射品質仍需驗證。
即便追兵四起,輝達憑藉矽光子與CPO建構出網路護城河,突破AI資料中心的能耗與規模瓶頸,掌握超大算力時代的產業標準。
(責任編輯:曹凱婷)