最新出刊

輝達地表最強AI伺服器GB300登場!台廠供應鏈有哪些新面孔?

輝達執行長黃仁勳在GTC發表最強AI伺服器GB300,預計下半年出貨。GB300有哪些改變?哪些新供應商會抓住商機?

GB300-輝達-GTC-AI-伺服器-黃仁勳 輝達執行長黃仁勳在GTC公布全新的GPU晶片Blackwell Ultra,以及伺服器架構。圖片來源:Getty Images
其他
  • 天下Web only

台灣時間3月19日凌晨,輝達執行長黃仁勳演講剛結束,鴻海位於聖荷西GTC的展示攤位湧入一群群人潮,目的正是一窺新AI伺服器GB300。

「剛剛Nvidia才發布最新的GB300,只有這個攤位才有,這些訪客才是懂得看門道的,」人正在GTC現場的鴻海發言人巫俊毅相當自豪地在社群媒體寫到,還附上一張眾人參觀的照片。

輝達GTC熱鬧登場,市場目光也放在即將取代GB200、成為最強AI伺服器的GB300。

外觀比成人還高、深色瘦長型的GB300機櫃,從背後看,插滿了運算托盤、交換器托盤和電源托盤。GB300採用最新的Blackwell Ultra GPU晶片,效能將比GB200提升1.5倍。而從鴻海展出的GB300 NVL72機櫃來看,同樣基於Blackwell架構,採用集團子公司鴻佰的液冷解決方案,並透過輝達Omniverse數位孿生技術來優化伺服器散熱。

鴻海-輝達-GB300-AIGTC大會的鴻海展示攤位,首次對外展示與輝達共同設計開發的AI伺服器GB300。(鴻海提供)

外觀上,GB300和GB200乍看沒有太大差異,但其實伺服器機櫃設計有些許改變,主要在於GPU變成能夠單獨拆卸,有利於維修與調校,也連帶改動液冷的結構設計。供應鏈也因為設計變動而增添新面孔,點燃台廠營收成長的柴火。

改變1:可以「拆」的GPU

GB200機櫃的一層運算托盤(Compute Tray),有2組GB200超級晶片,每組由1顆Grace CPU與2顆Blackwell GPU組成,共同焊在主機板上,無法單獨拆卸。

廣告

到了GB300,這項設計產生改變,將會採用GPU插座(Socket),讓GPU變得可以拆卸,方便維修,同時也增加良率。

根據摩根士丹利的報告,GB300將採用的GPU插座,主要供應商是鴻海旗下的鴻騰精密。另一家可能成為供應商的是嘉澤端子,嘉澤資深副總經理蔡明叡表示,GPU插座目前已送樣給輝達驗證中。

成立將近40年的嘉澤,隱身在基隆大武崙工業區,夾在水泥廠和廢棄車場間,相當低調,幾乎沒有接受過主流媒體採訪。董事長朱德祥與總經理何德佑是兄弟,分別只有高中與國中學歷,靠著匠人精神,帶領嘉澤成為CPU插座市佔全球前三大企業,英特爾、AMD都是客戶。

摩根士丹利看好,嘉澤在CPU插座的專業知識和能力,有機會成為輝達GPU插座的第二家供應商。

輝達-GB300-鴻海-AI伺服器GB300 NVL72機櫃,將採用GPU插座,讓GPU變得可以拆卸,水冷板與快接頭數量也將增加。(鴻海提供)

改變2:GB300將用更多快接頭、更多水冷板

解決散熱問題,同樣是GB300需克服的關鍵挑戰。

廣告

GB200開始全面採取液冷散熱,裝載冷卻液、接觸晶片帶走熱能的水冷板,以及連結水冷板與管線的快接頭,成為關鍵的零組件。

每組GB200晶片,原本僅需一大塊水冷板,同時覆蓋在2顆GPU與1顆CPU上。但由於GB300的GPU能夠單獨拆卸,水冷板的設計也更改為每顆GPU和CPU,各自擁有獨立的水冷板,同時也能提升散熱效率。

如此一來,GB300用的水冷板和快接頭數量都會增加。相較GB200機櫃,每層運算托盤使用2個水冷板、6個快接頭,GB300機櫃每層運算托盤會增加到6個水冷板、14個快接頭,將有更多廠商因此受惠。

摩根士丹利點名,老牌散熱大廠奇鋐Cooler Master將持續主供GB300的水冷板。而Cooler Master富世達鴻騰嘉澤,則可望搶到快接頭商機。

2023年底上市的富世達,正是散熱大廠奇鋐的子公司,供應摺疊手機的關鍵零組件「軸承」,主要客戶是中國通訊龍頭廠華為,更獨家供應掀起熱門話題的華為三折手機Mate XT,股價上市以來已經翻了將近3倍。

廣告

沒想到,今年2月富世達營收年成長超過5成,靠的是輝達GB200的水冷快接頭。這也是富世達第一筆出貨量大的AI伺服器訂單。

「伺服器佔總營收比重將從去年5%,成長到今年20%。下半年伺服器產品,會成長3倍以上,」富世達董事長黃祖模在3月的法說會上強調,目前越南廠擴產在加速,因為下半年伺服器產品交貨已經很緊張。

富世達已經切入GB200、GB300供應鏈,供應水冷快接頭、機櫃滑軌。「我們以為手機軸承利潤已經夠高,結果切入伺服器後,發現利潤更高,」富世達總經理徐安賜沒有具體指出毛利率有多高,僅說高於富世達平均的毛利率22%。

黃祖模強調,快接頭將是富世達轉折的關鍵,無論GB200或GB300,他樂觀相信未來會有一席之地,「希望是可以佔到市場的30%。」

改變3:新電力架構、BBU重要性提升

隨著GPU的功耗增加,BBU(Backup Battery Unit,備援電池模組)將成為GB300機櫃的選配甚至標配,功能是降低伺服器運作時主要電力供應發生中斷的風險。

廣告

Digitimes Research研究指出,到了GB300時代,BBU的主要出貨方式是由鋰電池模組廠AES-KY順達新盛力等業者供貨BBU,交給電源解決方案廠台達電光寶進行整合,成為機櫃中的電源托盤(Power Shelf),或是在機櫃空間不足狀況下,採用獨立電源機櫃。

整體而言,GB200到GB300,由輝達提供參考設計,變動幅度不大,就看終端客戶是否會買單。摩根士丹利則提到,輝達將會減少參與GB300的機械零組件設計,給ODM(原廠委託設計代工)廠更大的發揮空間。這也意味著ODM廠在研發設計與供應商選擇上較有彈性,提高附加價值及獲利率。

(責任編輯:黃韵庭)

延伸閱讀
你可能有興趣
最新訊息
破壞創新大師史考特・安東尼首度來台!
訂閱天下雜誌電子報

天下雜誌當期內容的精華與延伸,每周三發送最具時效性的深度內容