- 天下Web only
AI公司正在高速發展的風口浪尖,然而,內部人士卻透露,它們已經遇到撞牆期。
OpenAI於9月完成新AI模型「Orion」的第一輪訓練,但根據兩位知情人士,Orion並未達到公司預期的性能。
「Orion在嘗試回答未經訓練的程式設計問題時表現不佳,」兩位知情人士告訴《彭博》,「總體而言,Orion的進步不像GPT-4相對於GPT-3.5那麼大。」
值得關注的是,OpenAI並不是唯一一家最近碰壁的公司。事實上,三大領先的AI公司OpenAI、Google,和Anthropic都發現,他們為建立新模型而投入的昂貴心血,所帶來的回報正在遞減。
據另外三位知情人士透露,Google即將推出的「Gemini迭代版」,並未達到內部預期。同時,Anthropic也推遲發布它期待已久的Claude模型「3.5 Opus」。
早些日子, OpenAI和Anthropic的執行長都曾表示,AGI(通用人工智慧,指能達到人類水準的高級機器人)可能只有幾年的時間了。而對AGI的期待,是人們對這些AI公司大量投資的主要原因。
然而,「AGI 泡沫正在一點點破裂,」AI新創Hugging Face的倫理科學家瑪米切爾(Margaret Mitchell)直言。
為什麼卡關?
一言以蔽之:缺乏充足的高品質資料。
想像一下,AI模型學習新知就像人類幼兒學一門語言,如果只靠幾本書就要掌握該語言,肯定很難理解這門語言的複雜性、文法和結構。
目前,支援ChatGPT和其他AI聊天機器人的技術,是建立在大量社群媒體貼文、網路評論、書籍,和其他從網路上自由抓取的資料之上。
這些資料,足以創造出ChatGPT這類可以寫出通順文章和詩歌的產品,但如果要達到更高水準,甚至到AGI境界,則需要這些網路內容以外的資料來源。
但是,三大AI公司如今都面臨上述資料資源耗盡、汲取資料的隱私與道德困境,以及人類手動標記資料無效率等問題。
雖然OpenAI與許多出版商簽署協議,以滿足對更高品質資料的需求,但更多出版商與藝術家不滿AI侵權,使AI公司面臨日益嚴峻的法律壓力。
一些AI公僱用具有碩士學位的人員,去標記與自己學科相關的專業知識資料(例如數學和程式語言),以讓這些AI系統能更好地回應有關某些特定主題的查詢。但是這麼做不僅成本高,也進展緩慢。
「資料的品質不在於數量,而在於多樣性,」恩頤投資AI策略長特列季科夫(Lila Tretikov)說明, 「在沒有人類指導的情況下,我們很難獲得獨特的高品質資料庫,尤其是在語言方面。」
儘管如此,許多AI公司仍在掙扎,繼續追求「多即是好」的策略,並投入鉅資開發,抱持著「打造出接近人類智慧的產品」的希望。
本特利大學數學副教授詹西拉庫薩(Noah Giansiracusa)直言,「AI模型將不斷改進,但改進的速度值得懷疑。」
接下來呢?延宕、守成優先
上半年,Anthropic的新模型3.5 Opus讓業界備感期待,據說可能優於OpenAI的GPT-4和Google的Gemini系統,「這是每個人都感到興奮的事情,」獨立AI研究員威利森(Simon Willison)說。
但到了10月,業內觀察人士注意到,與3.5 Opus相關的表述,包括「今年稍後」和「即將推出」等詞語,已悄悄消失在Anthropic的官網。
當被問及3.5 Opus今年是否還會推出時,執行長阿莫迪(Dario Amodei)表示仍計畫發布,但是一再拒絕承諾時間表。
其他AI公司也開始糾結,是要繼續提供舊的AI模型,或者要承擔昂貴成本開發新版本(但新版本的性能可能不會好到哪)。
「這些模型都變得很複雜,我們無法像期望的那樣同時開發這麼多東西,」OpenAI執行長奧特曼(Sam Altman)最近在Reddit回答道。
奧特曼表示,OpenAI將在今年稍後發布一些「非常優秀的版本」,但不會包括GPT-5。不過,距離GPT-4推出其實已經有18個多月了。
目前,OpenAI關注一些更新,像是新版本的語音助理功能,還有代訂機票和代發電子郵件等工具。
Google走上同樣的路,只發佈了對旗艦模型 Gemini的更新,增加了復原生成人物圖像等功能,但在底層模型的品質方面,幾乎沒有重大突破。
(資料來源:Bloomberg, The Information, The Verge, Pieces)
天下總主筆陳良榕專欄。半導體狂熱、科技巨頭謀略的最犀利解讀
看懂科技大勢,獨家解讀
請查看您的信箱,我們將寄送驗證信給您,確保未來信件會送到您的信箱