黃仁勳為何Computex先來這裡?一個月出貨等於以前一年!廣達訂單看到2028

輝達大談代理式AI(Agentic AI)、趨勢往推論和邊緣走,最親密的戰友廣達老神在在,廣達伺服器大將揭祕,如何在邊緣戰場佈局10年。

廣達-林百里-輝達-黃仁勳-AI伺服器-台積電-AI Grid-CMX記憶體機櫃-LPU晶片-5G專網 廣達將雲端伺服器業務獨立為雲達,走向品牌化,雲達總經理楊麒令是關鍵功臣。圖片來源:邱劍英攝
其他
  • 天下Web only
加入Google偏好來源 在Google搜尋優先看到天下

今年黃仁勳照慣例,又到了廣達旗下雲達展區,作為巡展的起點。雲達準備了真正的「五層蛋糕」,來呼應黃仁勳提出的AI五層蛋糕理論。

廣達執行副總暨雲達總經理楊麒令,以一襲紅色polo衫亮相,格外搶眼。他是廣達伺服器業務的一把手。

採訪這天,楊麒令又以亮黃色polo衫配上白色寬鬆長褲。近年,隨著扛在他身上的擔子愈來愈重,他改變過去窄褲配尖頭皮鞋的潮男風格,打扮愈來愈強調輕鬆,「現在一個月的出貨量,是以前一年的出貨量!」他開心道,「但部門的大家都忙得不亦樂乎!」

根據Digitimes Research研究,今年廣達在高階AI伺服器出貨量,將會超越替Google代工的加拿大商天弘科技(Celestica),越居全球龍頭。

廣達在輝達供應鏈的地位,不言而喻。

2016年,輝達第一台AI超級電腦DGX-1,就是由廣達組裝;輝達執行長黃仁勳每年台北國際電腦展(Computex)巡迴的起點,都在廣達旗下的雲達;廣達和台積電是黃仁勳訪台最常私下聚餐的企業;輝達最新的Vera Rubin架構,廣達、鴻海、緯創更是3家最核心能優先組裝機櫃的公司。

廣達大將如何建立伺服器業務?

2023年Computex,黃仁勳甚至將皮衣「加冕」到楊麒令的身上。

不過這座伺服器江山,楊麒令打得很辛苦。他最初待在廣達最賺錢的PC代工部門,2005年林百里將他調去負責仍在虧損、剛起步的伺服器。他曾形容那段時光,就像天堂掉到地獄。

廣告

但他沒有放棄,開始強化廣達伺服器、儲存、交換器、軟體等技術,終於等到臉書等雲端服務商,跳過品牌商、找上門客製化伺服器,開啟全新的「原廠直供」商業模式。

2012年,廣達將雲端伺服器業務獨立為雲達,走向品牌化。楊麒令戰功不只如此,2018年左右,廣達和樂天合作打造5G虛擬化電信架構;接著2020年推出5G專網解決方案,再次打破電信設備商的壟斷。

楊麒令帶有突破行業規則、不斷改變的精神,「隨時在變,對我來說是一個很重要的元素,」甚至,2018年,他把名字從楊晴華改成楊麒令,隨著職涯、產業發展不斷改變,改名是給自己持續創新的期許。他曾告訴媒體,董事長林百里認為改得不錯,「像一個大將軍的名字。」

勇於改變,並不是盲目賭注,而是因為能看見全局,「我常常跟部門的人說,做事情要有所為而為,知道自己在做什麼,要有全局觀,」他強調。

從雲端到邊緣AI Grid新概念 

楊麒令在採訪中多次和《天下》強調,用AI Grid(人工智慧網格 )視角,思考未來算力的生意。

廣告

年初俗稱小龍蝦的OpenClaw出現,讓AI代理能直接行動,「就像AI從百科全書變成一名實習生,幫你排行事曆、訂機票,」楊麒令說。

楊麒令分析,隨著AI代理、物理AI發展成熟,未來AI應用會更即時與客製化。此時,算力要從雲端開始布建到邊緣,並能串接起來,就像「電網(Grid)」一樣。

因此輝達首次在今年3月GTC,提出AI Grid架構概念,未來算力不再單獨看雲端、地端,而是一張綿密的網絡。

楊麒令接著解釋,這代表企業不再追求最大算力,而是開始注重配置與使用效率;透過軟體指揮、調配算力資源。需要運用大算力訓練模型時,就會回到雲端;像是高頻交易等需要低延遲、即時互動,就會到邊緣端。

企業老闆現在最關心的事,是針對不同工作負載,建置最合適的叢集、讓效益最大化,「這就是Tokenomics(詞元經濟學)。設法從每一瓦電力榨出最多的token,我想token per watt(詞元/瓦特)會是今年重點,」楊麒令犀利判斷。

廣告

廣達-雲達-AI伺服器-楊麒令楊麒令指出,AI Agent的出現將推動邊緣應用,未來商機無限。(邱劍英攝)

企業從追求最強算力到追求效率,也帶動技術改變。

楊麒令熱血地分析,黃仁勳今年在GTC所推的新產品和技術,CMX記憶體機櫃、獨立Vera CPU機櫃,以及LPU(Language Processing Unit,語言處理單元)晶片,就是加速往推論方向前進的證明。

推論過程所產生大量上下文,存在HBM很佔空間與資源,輝達外掛一個記憶體機櫃CMX來解決,支援推論與AI代理工作。CPU重要性也提升,不只處理推論,還能擔任各種AI代理的總指揮。

像高頻交易需要即時、低延遲的應用,若用GPU「就像重型大卡車,可以載很多東西,但從裡面找東西很麻煩,」所以輝達找上AI晶片公司Groq,設計為推論打造的 LPU,「就像找到一台F1賽車,」他生動地形容。

廣達如何佈局AI邊緣應用?

輝達要把AI推到推論、邊緣,相較其他ODM廠,雲達對於垂直領域的應用早已佈局超過10年,握有領先者的餘裕。

廣告

今年3月GTC,雲達除了展出Vera Rubin機櫃,更和同集團的達明機器人合作,結合雲達伺服器、物理AI軟體工具,加快客戶落地機器人的流程。來到雲達位於桃園林口的5G開放實驗室,背板上布滿與終端客戶合作的案例,從機器人、工廠到醫院。

雲達能深入終端客戶,軟體經驗是關鍵。

「2012年我們就開始努力了,我們當時對軟體的能力不夠,」楊麒令回憶,雲達成立時他就意識到,不能只是根據規格做出一台伺服器給客戶,卻不知道客戶要用在哪、怎麼用。他當時力推和微軟、VMware與OpenStack等雲端軟體進行整合,利用軟體做出差異化的產品,提升競爭力,進一步解決客人的痛點。

例如影像辨識應用上,港口的車牌、生產線產品良率、環境監測火災示警等,都是視覺AI的應用。而雲達能夠根據客戶需求,將不同供應商的軟體,搭配到雲達的硬體,提供最適合的解決方案。

廣告

在楊麒令的藍圖中,邊緣AI並非獨立的產品線,而是放在AI Grid框架內,「不是賣邊緣伺服器,而是提供一套完整解決方案,尋找適配的軟體、甚至做好雲端串接。」

他坦言目前市場上對邊緣應用的需求尚未發酵,對雲達營收貢獻仍很小。但黃仁勳在GTC時提到,OpenClaw等AI Agent的出現,是推動邊緣應用的重要時間點,「等市場開始接受想法、開始做,就會是很大的蓬勃發展」。

廣達訂單一路滿到2028年

一名和廣達合作的零組件高層強調,隨著AI進入到邊緣裝置,以及輝達將推出PC專用的CPU,廣達優勢只會愈來愈大,「不要忘記,廣達還是全球筆電代工的龍頭。」

楊麒令氣勢高昂地說,AI帶來的改變比智慧型手機還大,訂單一路已經看到2028年。近3年客戶需求大增,廣達在加州弗里蒙特已經有10座廠區、6座倉庫;田納西州納許維爾則有6座廠區、4座倉庫。最近,廣達又花19億台幣在美國買廠擴建產能。

廣達耕耘美國超過20年、目前有6000員工,也是在電子六哥中被關稅影響最小。有趣的是,相較其他台廠聚集在德州,廣達又跟別人不一樣,竟然在鄉村音樂重鎮納許維爾蓋廠,讓人好奇其中緣由。

「田納西州是FedEx(聯邦快遞)的轉運中心,進出貨很方便,」楊麒令補充道,「我們是一直是有想法的公司,Barry(董事長林百里)、C. C.(副董事長梁次震)做什麼事,保證都是有道理的。」

他看著記者被醍醐灌頂的表情,露出滿意的笑容。

(責任編輯:宋玟蒨)

延伸閱讀
你可能有興趣
最新訊息
AI x 天下協作每日精選8則,省時省力輕鬆看懂天下事
訂閱天下雜誌電子報

天下雜誌當期內容的精華與延伸,每周三發送最具時效性的深度內容