大型語言模型(LLM)高度仰賴網路上的數據。訓練模型時使用的文本愈多,模型表現就愈好。然而,機器對文本的需求成長速度極快,已經超過了網路提供文本的速度。研究公司Epoch AI預測,到2028年,網路上高品質的文本就會被耗盡。業內人士稱之為「數據牆」(data wall)。如何應對這堵牆是人工智慧(AI)面臨的重大問題之一,也或許是最有可能拖慢AI發展的問題。
有一種解決方法是專注於資料的品質而非數量。AI實驗室不是單純仰賴網路上全部的數據來訓練模型,而是會先過濾和排序,來把模型的學習效率拉到最高。
英國《經濟學人》獨家授權,天下精選翻譯,與國際財經趨勢同步
華文唯一授權,隔週三發送
請查看您的信箱,我們將寄送驗證信給您,確保未來信件會送到您的信箱