- 天下Web only
當前炙手可熱的AI晶片產業長期由輝達主導,輝達也因而成為價值3兆美元的公司。
多年來,其他公司試圖追趕輝達的腳步,都沒有太大的成效。然而,最近幾家公司的動作,讓產業的分析師有了不同的看法。
研究公司Futurum Group分析師紐曼(Daniel Newma)表示,針對部分關鍵的AI任務,輝達的競爭對手正在證明他們能以更低的價格,提供更快的速度。
另一家研究公司Omdia則預測,資料中心營運商在「不搭載Nvidia晶片的電腦」的支出,今年預計將成長49%,達到1,260億美元。
這樣的轉變,是由一系列科技公司推動的,參與的競爭者包含亞馬遜、超微等大型對手,和規模較小的新創公司如SambaNova Systems、Groq和Cerebras Systems 。
更便宜,善「推理」
首先,競爭對手壓低價格,是一大吸引力來源。
德州高級計算中心的執行董事(Dan Stanzione)表示,公司計劃明年購買一台使用Blackwell 的超級電腦,但很可能也會使用新創公司SambaNova的晶片來執行推理任務,因為它們的功耗和價格較低。
相較之下,輝達目前晶片每顆售價高達15,000美元,而其Blackwell晶片預計每顆要價數萬美元。
除此之外,這些企業開始針對開發AI個階段訂製晶片,其中特別重要的一個階段是「推理」(inferencing),也就是AI模型被訓練後,開始執行諸如「AI機器人提供答案」等任務的階段。
高通執行長艾蒙(Cristiano Amon)指出,真正的商業價值來自推理這個階段,而推理階段正在擴大規模。艾蒙並表示,高通計畫使用亞馬遜的新晶片來進行AI任務。
超微日前表示,明年預計推出自家的新AI晶片,就是瞄準Blackwell晶片。超微在美國奧斯汀的實驗室對這款晶片進行了詳盡測試,並認為其推理性能是一個主要賣點。
Meta是超微晶片的其中一個客戶,它先前用輝達的晶片訓練了一個名為Llama 3.1 405B的新AI模型,但用AMD MI300s晶片為用戶提供答案。
「客戶真的願意嘗試不同的選項,看看什麼最符合他們的需求,」超微執行長蘇姿丰說。為了追趕輝達,超微也採取積極的投資和收購策略,包括以49億美元收購輝達供應商ZT Systems。
同時,亞馬遜、Google、微軟和Meta也都在針對特定運算任務打造自己的AI晶片,以求降低成本。本月,Google計劃開始銷售使用第六代內部開發晶片Trillium的服務,這款晶片的速度幾乎是其前身的五倍。
亞馬遜長期被視為人工智慧領域的落後者,但它近期似乎特別想迎頭趕上——今年撥款750億美元用於建造AI晶片和其他運算硬體支出。
它也在奧斯汀的Annapurna Labs——亞馬遜先前收購的以色列晶片新創——研發新款晶片,包括即將推出的Trainium 2,速度是過往晶片的四倍。除此之外,也宣布了Trainium 3的計劃,預期功能將更加強大。
舊金山AI新創Poolside創辦人兼技術長肯特(Eiso Kant)預估,與使用輝達的硬體相比,Trainium 2的每美元運算效能將提高40%。
肯特補充,亞馬遜還計劃在世界各地的資料中心提供使用Trainium的服務,這將有助於完成推理任務,「我關心的只是能不能獲得最好的性價比,還有能不能將它提供給終端用戶。」
最後是微軟,雖然被認為落後亞馬遜幾代,但領導微軟AI晶片開發的主管博卡(Rani Borkar)表示,公司對迄今為止的結果感到滿意,並正在研發其晶片的更新版本。
值得一提的是,輝達的競爭者也開始用另一種方式來仿效輝達,也就是打造「完整的電腦」,而非僅僅提供晶片。如此一來,客戶能獲得最大的晶片性能來執行AI任務。
上個月,亞馬遜宣布推出使用Trainium 2 AI晶片的運算服務,並得到蘋果在內的用戶推薦。亞馬遜還推出包含16或64個晶片的電腦,搭載高速的網路,可顯著提高推理效能。
亞馬遜甚至正在為其投資的新創公司Anthropic建造一座「巨型人工智慧工廠」。對Anthropic來說,擁有數十萬個新的Trainium晶片的計算集群,功能會是這家新創曾經使用過的任何晶片的5倍之高。
輝達會被超越嗎?
儘管如此,《彭博》採訪產業觀察家表示,亞馬遜不太可能很快地取代輝達。
一位為客戶提供AI專案幫助的AWS合作夥伴的高階主管分享,雖然亞馬遜已經成功讓其通用Graviton晶片變得好用,但AI硬體的潛在用戶仍然面臨著更大的複雜性。
「輝達佔據主導地位是有原因的,」追蹤人工智慧技術的Gartner公司副總裁迪卡特(Chirag Dekate)說,「你不必擔心那些細節。」
(資料來源:FT, Bloomberg, NYT, The Verge, Barrons)
天下總主筆陳良榕專欄。半導體狂熱、科技巨頭謀略的最犀利解讀
看懂科技大勢,獨家解讀
請查看您的信箱,我們將寄送驗證信給您,確保未來信件會送到您的信箱