根據顧問公司顧能的報告,AI正驅動著電力消耗快速成長。
到了2027年,現有AI數據中心將有四成會因電力供應限制,營運受到約束。經濟部能源署也估算,台灣5年內AI用電將成長約8倍。
AI是隻吃電怪獸,如果想持續發展,節能運算是接下來的重要課題。
顧能研究副總裁高挺分析,節能運算的定義是降低能耗的同時,滿足日益增加的運算需求,也就是提升運算效率。當前,各企業正在分兵短、中、長期策略佈局。
短期:用綠色能源
短期內,有愈來愈多大型數據公司,採用再生能源來提升能源使用效率。
例如,微軟與資產管理公司Brookfield已簽訂史上最大的企業綠能採購協議,投資全球各地約100億美元的再生能源項目。亞馬遜也花費170億,在西班牙打造完全採用再生能源的資料中心。
不過高挺提醒,綠色能源本身不直接「省電」,而是在能源供應端減少碳排放,藉此優化能源使用效率,讓企業的帳面成績比較好看。
想達到真的節能運算,必須透過軟硬體創新。
例如,麻省理工學院科學家羅鴻胤團隊,在2024年10月提出了L-Mul算法,透過一種簡化運算過程、只計算重點的方式,最高可降低95%能耗。
中期:軟硬體技術創新
另一條思路,則是降低數據量、進而減少運算量的1-bit LLM技術。微軟研究院於2024年10月公布的BitNet.cpp工具,正是該趨勢的第一槍。
根據微軟的報告指出,BitNet.cpp不需依賴GPU,能在標準CPU上處理1000億參數的模型,讓能源消耗下降至原本的18%。換句話說,個人電腦不需連網,就可以省電地運行大型語言模型。
顧能預測,1-bit LLM既節能,也解決了用戶對於資料上傳雲端的疑慮,在金融業、個人健康管理領域極具發展潛力。
硬體部份,ASIC(特殊應用積體電路)仍然是重要方向。根據Digitimes預測,全球資料中心ASIC加速器出貨量的5年複合成長率達52%,高於GPU的複合成長率。
與通用的CPU或MCU(微處理器)不同,ASIC是專門為特定任務設計的電腦晶片,既快速又省電,連獨霸GPU市場的輝達,也已加入這股浪潮。
另一方面,集邦科技預測,AI晶片的液冷散熱滲透率,將由2024年的11%,快速提升至2025年的24%。這是因為液冷散熱器可以快速帶走熱量,讓設備在理想溫度下運行,保持高速且穩定的工作,達到省電效果。
此外,高挺指出,許多公司推出AI調度系統,根據任務快速分配效能最合適的硬體資源。例如Google的Borg系統、微軟的Autopilot,都已經透過AI來派發運算任務,未來這種系統將出現在更多企業中。
長期:仿人腦的新運算
長期來看,2030年前可能還會出現如光學計算、DNA儲存等新技術,效能遠超過傳統矽晶片。此外,模仿人腦的神經形態系統等前沿技術,也被視爲未來高效AI運算的潛在方向,但目前仍在早期階段。
舉例來說,人腦的運算功耗大約只有20瓦,但光是一片輝達的A100 GPU功耗就高達400瓦,而且大多情形必須數片GPU同時運作。
如果AI運算能更像人腦,降低的能耗將非常可觀。
最新運算有哪些?
- 節能運算:用更高效的架構和演算法,提升AI用電效率
- 混合運算:結合如神經形態運算、量子和光學運算等,解決複雜問題
- 空間運算:AR/VR技術等,讓人類與數位世界互動
(雜誌原標題為:節能運算三策略快又省電/責任編輯:王儷華)
【更多精彩內容,請購買《天下雜誌》813期「2025經濟大預測」,單本即享免運】
天下總主筆陳良榕專欄。半導體狂熱、科技巨頭謀略的最犀利解讀
看懂科技大勢,獨家解讀
請查看您的信箱,我們將寄送驗證信給您,確保未來信件會送到您的信箱