閃耀之光瀰漫。蘋果九月十日舉辦It’s Glowtime發表會，最新iPhone 16系列亮相。這個名稱指的是升級後語音助理Siri的光環，也適用於iPhone 16 Pro新色「沙漠鈦金」。
但有點缺乏驚喜。蘋果執行長庫克宣傳新手機的生成式人工智慧（AI）。儘管搭載全新超高速 A18 晶片來驅動 AI 功能，但第一批功能至少要等到十月才能使用。展示看起來平凡無奇，將相機對準餐廳招牌，Apple Intelligence可以告訴你菜單上的內容。你可以輸入指令給 Siri，或者詢問它問題。投資人希望，最終能有更多對話式和個性化 AI 功能，提振占蘋果半數總營收的iPhone 銷售。但這可能還有得等。
許多企業都希望將生成式AI從雲落到端，也就是從大型資料中心，落地到小型設備上，或稱「邊緣運算」。蘋果智慧手機競爭對手三星已經搶先一步，今年稍早推出搭載部分人工智慧功能的 Galaxy S24。微軟不遑多讓推出專為人工智慧設計的 Windows 個人電腦Copilot+。然而，整體來看，市場依然充滿變數，想要成功進入並不容易。
大多數大型語言模型都是使用顯示卡（GPU）進行訓練，極其耗能，甚至需要一座核電廠供應所需電力。此外，這些模型還需要大量的記憶體以及難以想像的大量數據。成本加總可能高達數億美元。
經過訓練後，大型模型營運成本依然昂貴。根據估計，每當有人向ChatGPT 問一個問題，母公司OpenAI 需要花費 36 美分。相比之下，裝置所布署的是從雲端大型模型中提煉出來的小模型，成本更便宜，速度也更快。目標是把延遲程度降到最低，幾乎像跟人類對答一樣自然。邊緣運算也可以透過使用者與裝置的互動來學習用戶偏好。
但實際將AI從雲落到端並非那麼簡單。問題之一是，性能表現。使用 AI 機器人來規劃假期這樣的複雜查詢，仍然需要更聰明的雲端大型語言模型。另一個問題是算力。即便是較小的 AI 模型，運行時仍需大量計算資源，快速耗盡裝置電池。
企業們正在嘗試各種解決方案。Apple Intelligence 將提供裝置內的 AI 作為首要選擇，但較棘手的查詢還是會發送至該公司的雲端。Apple Intelligence還會將最特殊的問題轉交給第三方，例如 ChatGPT。蘋果承諾只在獲得用戶許可的情況下這樣做，但仍可能引發對隱私疑慮。智慧手機擁有大量用戶的個人資料，許多人更偏好，若生成式 AI 要使用這些訊息，資料還是應保留在裝置上。
科技公司也開始使用相較GPU沒那麼耗能的替代方案，來進行邊緣運算，像是類神經網路處理器（NPU）。生產 NPU 和各種其他邊緣設備晶片的高通，強調如何最大化「每瓦性能」。與成本高昂的 GPU 相比，NPU 也更便宜。畢竟，沒有人希望自己的手機價格高得像資料中心一樣。
許多公司很有興趣將AI 移到裝置端。雲端大型語言模型極度依賴輝達。聚焦節能AI 晶片的新創公司Mythic 執行長奧茲塞利克（Taner Ozcelik）則說，目前還沒有「任何一家公司主導」邊緣 AI 領域。
研究公司 Counterpoint 的共同創辦人夏哈（Neil Shah）認為，儘管在邊緣 AI 領域可能沒有哪家企業能像輝達在雲端領域獲得如此大的收益，但仍會有大贏家。他表示，讓這項技術運作不僅可能引發裝置銷售的超級循環，還會為應用程式和數位廣告創造新機會。不過，目前邊緣 AI 還沒準備好亮相，更別說是迎來Glowtime了。
（本文由「經濟學人」獨家授權轉載）
英國《經濟學人》獨家授權，天下精選翻譯，與國際財經趨勢同步
華文唯一授權，隔週三發送
請查看您的信箱，我們將寄送驗證信給您，確保未來信件會送到您的信箱
