近幾個月,矽谷掀起了一股新風潮。為了證明自己站在AI應用的最前線,科技從業者開始熱衷於「tokenmaxxing」,彼此競爭誰能消耗最多token ( AI模型處理的文字單位)。從1月到3月,透過模型存取平台OpenRouter處理的每週token數量暴增四倍。
AI需求飆升,背後的產業卻難以跟上腳步。3月時,深受企業用戶喜愛的AI實驗室Anthropic開始在尖峰時段限制工具存取,之後也調整訂閱方案,顯然是為了抑制使用量。到了4月,Anthropic的服務每天平均中斷約 30 分鐘。這並非個案。3月,Anthropic的競爭對手OpenAI突然關閉旗下影片生成工具 Sora,將稀缺的算力轉向更高利潤的用途。4月20日,微軟旗下的程式協作平台GitHub也不再接受新的程式設計機器人訂閱服務訂單。
拆東牆補西牆?大廠裁員舉債,瘋狂補算力
業界的回應是再投入更多資金來新增基礎設施。4月20日,Anthropic宣布與亞馬遜達成1000億美元合作,確保最多5 GW 的伺服器容量,其中近五分之一預計在年底前上線。4月24日,Anthropic公司又表示Google將投資400億美元協助滿足其算力需求。4月27日,OpenAI宣布調整與微軟的合作關係,讓它的產品也可以透過微軟以外的雲端供應商提供給終端用戶,藉此提升取得算力的彈性。
五大「超大規模雲端業者」(Alphabet、亞馬遜、Meta、微軟與甲骨文)各自投入數千億美元建設資料中心。今年以來,Alphabet、亞馬遜與甲骨文已合計發行超過1000億美元債務。為了釋放資金,Meta 近期宣布裁員10%,微軟則表示將提供約7%的工自願離職方案。
然而,擴充產能變得愈來愈困難。在美國及其他地區,資料中心建設面臨愈來愈嚴峻的政治阻力。此外,為資料中心提供設備的硬體製造商──從晶片、網路設備到散熱系統──投資遠遠不足,無法跟上需求。因此,產能緊縮的情況恐將惡化。
先看政治因素。4月,美國緬因州議會通過法案,在2027年11月以前禁止建造超過20兆瓦的資料中心。雖然該法案隨後被州長否決,但美國已有超過十個州正在考慮採行類似措施。據統計,去年美國總計價值1,560億美元的資料中心投資計劃因為當地輿論反對與法律訴訟而遭阻擋或延宕。從愛爾蘭到巴西,其他國家也出現反彈聲浪。最受關注的是高耗電的資料中心可能推升電價的擔憂。隨著波灣地區戰爭推高能源價格,這樣的憂慮可能進一步加劇。
即使資料中心獲准建設並能接上電力(無論來自電網或自發電),建設者也將愈來愈難取得運作所需的計算設備。
產能售罄,記憶體還要缺3年
研究機構 SemiAnalysis分析師齊安姆(Ivan Chiam)指出,目前沒有足夠的晶片來填滿建造中的資料中心。輝達設計的圖形處理器(GPU)提供全球超過三分之二的 AI 算力。2022 年推出的 H100 GPU 租用價格自去年 11 月以來已上漲約 30%,原因是客戶無法取得更新款的晶片,只好轉向舊型號。其他AI處理器也愈來愈難取得。4月,亞馬遜執行長賈西表示,公司幾乎已售罄 Trainium2 AI 晶片的使用權;預計明年推出的 Trainium4,很大一部分產能「已經被預訂」。
記憶體晶片生產業面臨相同的壓力,特別是 AI 模型依賴的高頻寬記憶體(HBM)。SK海力士、三星與美光這三大製造商都表示2026年產能大多已售罄。3月,Google推出TurboQuant演算法,旨在降低 AI對記憶體的需求,一度導致記憶體製造商股價下跌。但即便如此,至少在未來三年內,HBM供不應求的情況都料將持續。
短缺情況如今也蔓延至中央處理器(CPU)。能進行規劃、推理並執行任務的「代理型」(agentic)AI 工具,更依賴CPU來協調運作。投資銀行摩根士丹利估計,代理型系統需要每個 GPU 搭配一個CPU,而聊天機器人型系統的比例僅為1比12。事實上,CPU需求已經強勁到讓不久前快垮掉的英特爾重獲生機。過去六個月,英特爾市值已翻倍。
問題的核心在於,AI供應鏈上的企業在擴充產能上的投資,遠低於超大規模的雲端業者。
《經濟學人》分析了約50家大型晶片、設備、伺服器、網路與散熱設備製造商今年的資本支出計劃,以及相較2024年的變化。在此期間,五大雲端業者的資本支出總額成長190%,從2,340億美元增至6,770億美元。但他們仰賴的硬體供應商資本支出總額僅增加45%,從1,530 億美元提升至2,230億美元。
以台積電為例,目前最先進的製程(5 奈米及以下)產線已滿載運轉。台積電董事長魏哲家坦言供應「非常緊張」,但「沒有捷徑」。建造新晶圓廠需要2至3年。公司計劃在2026年投入約550 億美元資本支出,較前一年增加 34%。分析師預期 2027年將進一步拉高到650億美元。然而,相對於營收,台積電資本支出佔比已從2022年的約一半降至今年的三分之一。
台積電的保守態度讓客戶感到不滿。OpenAI 執行長奧特曼呼籲台積電「直接開出更多產能」。3月,特斯拉暨SpaceX 執行長馬斯克宣布打造「Terafab」,目標是每年產出超過當前全球半導體產業總量的算力。
該設施最快也要等到2028年才可能開始生產,且規模可能遠低於預期。此外,馬斯克可能也難以取得足夠的先進設備來運作工廠。這些設備同樣供應短缺。由此可見 AI的前景被失衡的問題籠罩。軟體改進只需要幾個月,但供應鏈擴張卻需要好幾年。硬體製造商擔心過度投資,最終留下閒置產能。因此,「燒token」的熱潮或許很快就會降溫。
(本文由「經濟學人」獨家授權轉載)
英國《經濟學人》獨家授權,天下精選翻譯,與國際財經趨勢同步
華文唯一授權,隔週三發送
請查看您的信箱,我們將寄送驗證信給您,確保未來信件會送到您的信箱