重磅出刊

手機晶片不甜了 台積吃高速運算商機,最強武器是封裝技術CoWoS

ChatGPT逼出台積成長黃金交叉,但寡佔高速運算GPU的輝達,卻嫌台積先進製程CP值低,反而買單其最貴的封裝技術CoWoS,該技術還帶動載板廠一起飛。

AI-輝達-鴻海-鴻佰-光寶-英業達-雙鴻-微軟-伺服器-供應鏈-ChatGPT-CoWoS 2022年底台積3奈米量產及擴廠正式啟動,新製程的客戶將包含高速運算。圖片來源:黃明堂攝
其他
加入Google偏好來源 在Google搜尋優先看到天下

「AI夢幻軍團」系列報導》


●接續前文:ChatGPT不能沒有台灣!從心臟到外殼,33家台廠變身「AI夢幻軍團」

說到AI伺服器的能耗問題,不少半導體業者的直覺反應,就是靠摩爾定律解決不就好了?

例如,台積剛量產的3奈米製程,能耗可以較前一代5奈米降三成到三成五。

但有趣的是,輝達最新、最高階的GPU都不是當下台積的最先進製程。

台廠機會4》半導體、載板
台積先進封裝技術,載板廠也受益

「已經好幾代都是這樣,」一位資深半導體分析師也觀察到這現象。

過去曾是先進製程急先鋒的輝達,現在常在半導體最先進製程量產的第三年才投片,比第一年就用的蘋果以及第二年的超微還慢。

「黃仁勳算盤打得很精,」該分析師說,主要是近年先進製程愈來愈貴,得到的效能提升卻愈來愈小,輝達寧可等個兩年,待製程良率穩定、價格下跌再進場,並選擇將資源投在軟體優化、新架構上,「效果可能好上10倍,可說是本小利多,」該分析師坦言。

廣告

輝達能如此好整以暇,一大原因也是其寡佔AI市場,沒有導入昂貴新製程的迫切理由。

這對於台積的未來可能是個警訊。

首先,去年台積高速運算業務佔營收比重達41%,首度超越智慧型手機的39%。

業界都將之視為典範轉移。智慧型手機市場已成熟,以AI為首的高速運算,將成為未來台積的成長火車頭。

但輝達對最先進製程的不積極態度,讓上述說法,顯得有點一廂情願。

然而,一位輝達供應商高層告訴《天下》,輝達GPU之一輝達高階GPU,為AI、數據分析和高效運算提供需要的動力。目前 ChatGPT使用的AI伺服器,便是搭載H100/A100。的技術重點,其實是在旁邊整顆用台積的Chip on Wafer on Substrate,台積的先進封裝技術。先將晶片透過封裝過程連接到矽晶圓,再和載板連接整合。通常用在高效能運算產品。,與6顆昂貴的第三代高頻記憶體(HBM3)連接起來的架構,每一顆記憶體可擴充到80GB、每秒3TB的超高速資料傳輸,讓美國科技媒體驚呼「怪物」。

廣告

也就是說,H100用的雖然不是最新半導體製程,卻是台積最先進、最昂貴的封裝技術,以因應AI深度學習需要將大量資料在GPU與記憶體之間快速搬運的特性。

這是「後摩爾時代」的技術特徵。輝達競爭者超微的MI300,也有類似架構。

而提供CoWoS關鍵材料的載板廠欣興,將是最大受益者。

生態系挑戰者》超微
巨頭不想被綁住,助輝達競爭者逆襲

當然,正進行AI軍備競賽的雲端服務大廠,也不會乖乖地被輝達寡佔。「大家都不想被綁住,」一名載板廠高層說。

他剛從美國拜訪客戶回來,發現微軟與Meta都將大量導入超微產品,最快從明年開始。

路博邁投信董事總經理侯明孝認為,Meta、Google本身軟體能力很強,不會被輝達的軟體綁住,「這一塊是超微的機會。」

AI的躍進,已然帶動架構革新,新AI供應鏈依然不能沒有台灣。

不論其帶來的經濟驅動會不會遞延,技術汰舊換新箭在弦上,是在科技景氣谷底的台廠,再現火力的時刻。(責任編輯:王儷華)

廣告

【更多精彩內容,請購買《天下雜誌》770期「AI夢幻軍團出列」,單本即享免運】

AI夢幻軍團出列
《天下雜誌》770期:AI夢幻軍團出列
從心臟到外殼,ChatGPT不能沒有台廠!AI伺服器代工、電源與晶片都「Made by Taiwan」。揭開全球首個繁體中文模型,台版GPT出爐;最新盤點:台積、鴻海到光寶,AI 2.0供應鏈33強。
你可能有興趣
最新訊息
每日不到6元,固定為自己充電
訂閱天下雜誌電子報

天下雜誌當期內容的精華與延伸,每周三發送最具時效性的深度內容