AI語言模型即將撞牆，人類的高薪機會又來了？

版權爭議

不管使用哪一種模型，所有權的問題都愈來愈受重視。訓練LLM使用的素材通常受到版權保護，但創建者在使用時沒有經過權利所有人同意，也沒有付費。某些AI模型會越過付費牆。模型創建者聲稱這種情況屬於美國版權法中的「合理使用」（fair use）豁免情況。他們認為，AI模型在學習時應該和人類一樣，可以閱讀受版權保護的素材。

然而，正如科技分析師伊凡斯（Benedict Evans）所說的，「規模上的差異」可能導致「原則的不同」。

不同的權利所有人採取的策略不盡相同。Getty Images控告圖像生成公司Stability AI未經授權使用自己的圖庫。《紐約時報》控告OpenAI和微軟，指控這兩家公司侵犯了數百萬篇文章的版權。其他報紙則與AI公司達成了授權交易。News Corp（《華爾街日報》的所有者）簽署了一份價值2.5億美元的五年合約。其他文本和影片的版權所有人也都簽署了類似協議。社群媒體Reddit和X則是在AI模型使用自家內容的時候收取費用。

廣告

不同司法管轄區的情況不同。日本和以色列為了促進AI產業發展，立場較為寬鬆。歐盟本來就沒有「合理使用」概念，因此可能更為嚴格。在已經建立市場機制的地方，不同類型的數據價格也會不同。未來，模型需要及時取得現實世界訊息才能與時俱進。

企業預先訓練好的模型，後續新增資料也有助於提升模型的能力。例如，可以靠人工收集或輸入問答集，再提供給模型，讓它知道什麼是好的答案。或是靠著人類提供的回饋，讓模型知道自己的答案是否滿足了提問者的需求。後者稱為「靠人類的回饋強化學習」（reinforcement learning from human feedback，簡稱「RLHF」）。

進行RLHF時，使用者會針對模型輸出的結果品質提出回饋。之後這些回饋就會被用來調整模型的參數或「權重」。使用者和聊天機器人的互動，像是按讚或倒讚，對RLHF特別有效。這創造了科技人所謂的「數據飛輪」（data flywheel）。使用者愈多，收集到的數據就愈多，這些數據又可以用來把模型調整得更好。AI新創密切關注使用者向模型提出的問題類型，然後收集數據以針對這些主題調整模型。

廣告

Shutterstock

後續訓練更重要，催生高時薪

隨著網路上可以拿來預先訓練模型的數據枯竭，模型完成後的後續訓練變得更加重要。ScaleAI、SurgeAI等標註公司（labelling company）每年靠著收集用在後續訓練的數據賺進數億美元。ScaleAI最近剛以140億美元的估值募得10億美元資金。最優秀的標註工作者時薪高達100美元。然而，即便後續訓練有助於精進模型，也足以滿足許多商業應用，但影響終究有限。

與其一點一點地將數據牆向後推，不如直接跳過它。另一種解決方法是使用合成數據，也就是利用機器創造出來的數據訓練AI模型。這樣的合成數據數量無上限。DeepMind（Google的子公司）開發的模型AlphaGo Zero就是很好的例子。DeepMind第一個開發出的圍棋模型是利用業餘比賽的數百萬筆數據訓練而成。相反地，AlphaGo Zero並沒有使用任何既有數據，而是在三天內與自己進行490萬場比賽並記錄獲勝策略，藉此學習圍棋。這種「強化學習」靠著模擬大量可能的應戰策略並做出讓自己獲勝機率達到最高的選擇，教會模型如何回應對手的下法。

廣告

類似方法也可以用於LLM的寫作。例如：訓練LLM寫數學證明題。LLM可以先產生多個解答的第一步驟，再由一個訓練有素的「助手」AI選出最好的一個作為繼續回答這題證明題的基礎。「助手」AI靠人類專家提供的數據訓練。這種由「助手」AI產生的回饋是一種合成數據，可以用來進一步訓練第一個模型。最終，你可能會得到比LLM一次性回答品質更好的答案，並改進LLM。

OpenAI共同創辦人卡帕斯（Andrej Karpathy）在近期一次演講中形容，這種靠著花更多時間思考來提升產出品質的方式，就像是人類較慢、深思熟慮的「系統二」思維（system 2 thinking）。目前，LLM採用「系統一」思維（system 1 thinking），沒有深入思考就回答，比較像是人類的反射性回應。

但困難的地方在於將這種方法擴展到醫療或教育等領域。遊戲對獲勝有明確的定義，所以比較容易收集與制勝策略相關的數據。但其他領域就比較棘手了。通常得請教專家，才有辦法知道什麼是「好」的決策。但這種作法成本高、耗時，也不是一個完善的解決方案。而且你要怎麼確定特定專家是正確的？

廣告

要維持AI快速發展，顯然需要更多數據。但就像油田一樣，最容易獲取的數據資源已經枯竭。現在的挑戰是找到新的數據來源，或是其他有辦法長久使用的替代方案。

（本文由「經濟學人」獨家授權轉載）