獨家民調

ChatGPT靠它獨家供電 光寶從做便宜貨轉攻高階,效能超越龍頭的祕訣

當ChatGPT在回答提問時,它的用電功率會瞬間衝高,光寶電源能因應此現象,獲微軟AI伺服器採用,成獨家供應商。曾經像什麼生意都做的「雜貨店」,光寶為何被國際大廠青睞?

光寶-Nvidia-輝達-伺服器-AI-電源-ChatGPT-雲端-微軟-亞馬遜-Meta 光寶2020年於台南成立軟體研發中心,總經理邱森彬認為,未來產品勝負不只硬體,軟體實力也是關鍵。圖片來源:謝佩穎攝
其他
加入Google偏好來源 在Google搜尋優先看到天下

「AI夢幻軍團」系列報導》


全球有超過一億名AI聊天機器人ChatGPT的用戶,每天輸入上億則千奇百怪的指令,從「使用聖經風格,解釋如何從錄影機中拿出花生醬三明治」這類搞笑創作,到撰寫大學課堂報告與Python程式碼等實用任務。

ChatGPT能在短短幾秒間給出答案,靠的是設置在微軟Azure機房內、搭載上萬顆輝達(Nvidia)GPU的伺服器。ChatGPT進行運算時,功率會在小於五十分之一秒的瞬間暴衝到4000至5000瓦特;相較之下,普通雲端伺服器功率頂多到2000瓦特。

全台最早有能力因應這種AI伺服器「脈衝負載」需求的電源廠,就是光寶科技。這家老牌電子廠因此得以獨家供貨3000瓦和5200瓦的電源產品給微軟,用於ChatGPT伺服器。

光寶雲端基礎設施系統與平台事業部(CIPS)產品發展一處總監王金才解釋,當時「競爭者」在最難的脈衝負載測試,無法維持穩定電壓而敗下陣來,「我們能做到那個要求,」他說。


【小檔案】光寶科技

廣告
  • 成立/1975年
  • 董事長/宋明峰
  • 總經理/邱森彬
  • 成績單/2022年營收1734.75億

關鍵1:從包山包海轉做高階

以LED產品起家的光寶,常給人包山包海、什麼生意都碰的印象,為何會在熱門AI伺服器電源領域,技術領先全球電源第一大廠台達電?

首先,受益於公司策略轉型。光寶近年陸續出售相機模組、印表機等非核心業務,把資源集中到雲端伺服器電源等重點產品。

獨家供應ChatGPT一役,儼然成為光寶總經理邱森彬上任近3年的代表作。他之前掌管電能事業群,也曾在美國子公司擴展雲端運算業務,為此打下基礎。

光寶

業務出身的邱森彬,個性豪爽直率,他承認,光寶過去陷入追逐規模的迷思,剛切入雲端伺服器市場,只鎖定規模最大的亞馬遜雲端服務(AWS),進攻最主流的750瓦機種,只想著以數量與低價,逼對手退出市場。

廣告

一名熟識客戶看不下去,勸告邱森彬,光寶的競爭對手台達電不做主流機種,而是投入高階的高瓦數產品,「可是營收沒有比你少,獲利可能比你高。為什麼你一定要這麼堅持?」

「客戶把我打醒了,」邱森彬認為,光寶並非沒能力做高階產品,只是策略取捨,「念頭一轉,不應該再把自己框起來。」

關鍵2:自己研發,超越標準值

接著,是投資關鍵技術。

5年前,光寶成立全新部門CIPS,接洽亞馬遜、Google、微軟和Meta等大客戶,了解需求。CIPS總經理張坤松透露,公司投入該部門預算每年成長25%,研發人員更從150人擴增到今日的560人。

隨著運算需求增加,雲端客戶希望伺服器內騰出更多空間來放CPU、GPU和記憶體,要求電源產品縮小體積,代表電源產品的效率與能量密度必須提高。

其中,變壓器最為關鍵,「變壓器是電源的心臟,」邱森彬說。

廣告

過去光寶將變壓器的設計與製造外包,2017年,公司決定砸下千萬元成立變壓器專案實驗室,由前台科大電子工程系教授、現任光寶新加坡分公司總經理羅有綱擔任主持人。羅有綱是著名的電源專家,許多台達和光寶員工出自他的門下。

光寶自己掌握變壓器設計,使用的原料和尺寸都是客製化,和一般外界規格完全不同。

光寶展示廳的雲端伺服器機櫃。(謝佩穎攝)

在優化變壓器、重新設計電路架構後,目前光寶電源產品的能量密度能達到每立方英吋100瓦,遠超過一般筆電用的變壓器每立方英吋45瓦;電源轉換效率達到97.5%,高於歐盟要求的96%以及AI伺服器客戶的97%標準。

關鍵3:客製化打下ChatGPT

就在光寶提升電源技術能力的同時,伺服器開始出現以GPU取代CPU的趨勢。

2018年輝達提出客製化3000瓦電源供應器的需求,其他同業對此意願不高,於是光寶抓緊機會,主動出擊。張坤松回憶,光寶派出菁英團隊,找輝達了解GPU如何跟系統搭配,客製化電源供應器產品,並通過驗證。

廣告

同年,光寶電源產品就打入輝達推出的高階AI深度學習伺服器DGX-2,日後也成為ChatGPT運算的幕後功臣之一。目前更是微軟Azure的3000瓦與5200瓦電源產品獨家供應商。

如今,光寶手中已經有AWS和微軟Azure訂單,第三家客戶今年也將入手,市場上普遍預測是臉書的母公司Meta。光寶雲端伺服器電源市佔率在3年內從不到一成,提升到三成,「未來兩年我們要超過五成,」邱森彬滿懷期望地說。

設北京團隊迎接新挑戰:散熱

而被問到是否打進ChatGPT供應鏈,台達發言體系表示,無法回答單一客戶問題,但會持續在雲端伺服器電源領域佈局。

一名業界人士分析,北美四大雲端業者希望分散供應商,加上台達將資源轉往電動車領域,有助於光寶提高在雲端伺服器電源的市佔。

凱基證券產業分析師李承泰觀察,光寶高階雲端電源產品在市場已佔有關鍵席位,與龍頭台達共享市場成長潛力,「光寶這幾年有做出成果,未來兩年很有機會持續提升產業地位。」

廣告

光寶在伺服器電源的佈局沒有停下腳步,邱森彬透露,公司目前也投入伺服器的液冷散熱解決方案研究,在北京的研發團隊興建一座浸泡池,預計最快2025年能推出商業化的產品,「散熱是AI伺服器的下一個挑戰,誰可以把這個冷卻系統做得好,誰就可以勝出,」他說。(責任編輯:王儷華)

【更多精彩內容,請購買《天下雜誌》770期「AI夢幻軍團出列」,單本即享免運】

AI夢幻軍團出列
《天下雜誌》770期:AI夢幻軍團出列
從心臟到外殼,ChatGPT不能沒有台廠!AI伺服器代工、電源與晶片都「Made by Taiwan」。揭開全球首個繁體中文模型,台版GPT出爐;最新盤點:台積、鴻海到光寶,AI 2.0供應鏈33強。
你可能有興趣
最新訊息
你是學生嗎?限定優惠$99/月
訂閱天下雜誌電子報

天下雜誌當期內容的精華與延伸,每周三發送最具時效性的深度內容