- 天下Web only
最殺的邊緣AI裝置,上市了!
10月中,輝達執行長黃仁勳拜訪SpaceX位於德州的火箭工廠,將全球最小的超級電腦DGX Spark,親自交給馬斯克。馬斯克打開包裝、拿起只有巴掌大的DGX Spark,驚訝地問,「這是全部嗎?」
這一幕,彷彿是在致敬2016年,黃仁勳將全球第一台超級電腦DGX-1交給當時擔任OpenAI董事的馬斯克。
DGX Spark只有1.2公斤,但運算能力卻比重達61公斤的DGX-1高出5倍。等於把一台傳統伺服器縮到一個鐵便當盒大,算力卻不減反增。搭載輝達GB10 Grace Blackwell,AI算力可以達到1000TOPS,在地端對高達2000億參數的AI模型進行推論,例如GPT3.5、GPT-4o、Llama 3.3 70B等。等於能把一台超級電腦隨身攜帶,移動方便。
Digitimes分析師申作昊觀察,DGX Spark出現,把AI推理用伺服器的軟硬體堆疊縮小到個人桌上尺寸,目標轉向邊緣開發,不必進資料中心,是AI開發往個人化、靈活化的一項策略。
天下總主筆陳良榕專欄。半導體狂熱、科技巨頭謀略的最犀利解讀
看懂科技大勢,獨家解讀
請查看您的信箱,我們將寄送驗證信給您,確保未來信件會送到您的信箱