台積電看AI比去年更樂觀！Semicon直擊：資料中心新增6到8倍，關鍵在先進封裝與矽光子｜天下雜誌

台積電看AI比去年更樂觀！Semicon直擊：資料中心新增6到8倍，關鍵在先進封裝與矽光子

【Semicon系列報導】台積電對AI的最新判斷，比去年更加樂觀。然而AI算力愈強，資料搬運、記憶體、散熱與供電的瓶頸也愈棘手。面對資料傳輸、記憶體與能源效率三大難題，台積準備用哪些技術接住下一波成長？

AI時代，台積已超越晶圓代工，愈來愈像是系統公司。圖片來源：王建棟攝

瀏覽數：3712

資料中心成長將超過五倍

「過去，資料中心的擴張相對可預測且穩定，每年約增加5至6GW，」她說，「現在，成長軌跡已徹底轉變。在AI浪潮持續推動下，我們預估未來幾年新增基礎設施將激增至每年30至40GW。」

換句話說，接下來每年新建的資料中心規模將增加6到8倍。

她分析，AI已經超越原型開發、概念驗證的階段，開始進入工業化大規模擴張的週期。「在這個新時代，市場領導者不會只是那些能做出更好模型的公司，而會是那些能打造最整合化系統的企業，」李湘說。

因為，去年AI代理人技術出現後，企業導入AI的速度正在加快。「我們預估全球企業AI代理市場將從目前的50至70億美元，成長至2030年超過500億美元。」

她認為，雖然現在市場將目光放在GPU和AI加速器上，但CPU市場將在兩年內成長一倍，達到740億美元，並在2030年達到2200億美元。

挑戰一：跨晶片移動資料消耗的能量愈來愈高。整個系統裡的任務負載，六成用於移動資料，用來指揮AI加速器的只有四成，讓加速器大部份時間閒置，形成巨大的浪費。

挑戰二：移動資料消耗的能量愈來愈高。「在晶片間移動資料消耗的能量，可能比用在晶片內完成計算的能量高出五十倍！」記憶體頻寬不足，拖慢系統表現。

挑戰三：散熱和供電挑戰升級。

現在，光是做出一顆高效能的AI晶片已經不夠，台積電關心的是，如何提升包括記憶體在內，整個AI系統的運作效率。

她打出一張投影片解釋，AI運算需求增加的速度，遠比電晶體微縮的速度更快。

先進封裝、矽光子是關鍵解方

因此，台積電要如何追上AI效能增加的需求？答案有兩個：

第一，在晶片層級用先進封裝，將多顆晶片整合在一起，解決頻寬和能源效率問題。

第二，在整個系統層級，提升整個資料中心，記憶體和運算晶片之間交換資料的效率。

因此，台積電接下來的重點，很大部份放在和互連及記憶體相關的技術上。例如，台積電利用12奈米製程，升級HBM的基底控制晶片（BASE DIE），頻寬因此提升2.5倍，接下來，台積將在HBM 5時，用N3製程生產HBM的基底控制晶片，頻寬又可再提升2.5倍。

另一方面，她也預告，台積電先進的SoIC封裝技術，年底前會有11個客戶的產品導入，這項技術將比2.5D封裝技術交換資訊的效率提升56倍。

矽光子是另一個解法，她表示，「今年，全球首款採用COUPE技術的 200Gbps微環調變器將進入商業化量產，」利用矽光子，移動資料的能耗將再次下降。今年，台積電大尺寸5.5倍光罩面積CoWoS也導入量產。

因此，從今年開始，台積電愈來愈像是一個系統公司。

台積電不只提供製造先進晶片的技術，還透過先進封裝，逐步讓晶片們變成一個個的系統，再透過矽光子為基礎的先進運算互連，為提升整個系統的效率提供解答。

因此，未來過去難以著墨的記憶體效能，系統之間的通訊能力，都將開始進入台積電的藍圖，影響力和機會也隨之擴大。