2019年，當OpenAI完成GPT-2大型語言模型訓練時，這家AI實驗室認為它的危險性過高，不宜公開。
時任OpenAI研究主管的阿莫迪（Dario Amodei）認為，世界需要時間做好準備。
GPT-2同年稍晚發布。此後，一系列更強大的模型相繼問世，但並未引發末日。然而，7年過去，如今身為OpenAI強勁對手Anthropic領導人的阿莫迪宣稱，Claude系列最新模型「Mythos」暫時不適合廣泛發布。這一次，他或許是對的。
Anthropic表示，Mythos有能力發現軟體漏洞，並根據設定做出不同行動：若作為防禦者，能修補漏洞；若作為駭客，則能乘虛而入。
Anthropic最新的示警仍值得重視。
首先，是嚴重程度：Anthropic表示，Mythos已經在「所有主要作業系統與網頁瀏覽器」中發現嚴重漏洞，其中甚至包含一個長達27年未被發現的漏洞。
其次是其他公司的反應。就在暫緩發布的同時，Anthropic宣布了「Project Glasswing」計劃，要幫助企業在Mythos廣泛公開前，利用它來提升網路防禦能力。
蘋果、非營利技術貿易協會Linux基金會、CrowdStrike以及與Anthropic在AI領域直接競爭的Google等領先軟體開發商的參與，都顯示這項威脅確實可信。
若企業能提前使用Mythos，就能在軟體發布前檢測漏洞並加以修補。即便如此，Anthropic從該計劃中仍有可觀收益。實驗室將承擔該計劃前一億美元的使用成本，但最終，使用Mythos的費用將是前代模型Opus的五倍。
不僅駭客可能對Project Glass-wing感到不滿。美國政府長期不斷伺機利用敵方網路防線的弱點，這意味他們會暗中囤積尚未曝光的系統漏洞，以便在關鍵時刻動用這些漏洞來發揮最大的打擊效果。
如果Project Glasswing奏效，這可能會讓美國自身的許多網路武器直接失效。
（本文由「經濟學人」獨家授權轉載）
英國《經濟學人》獨家授權，天下精選翻譯，與國際財經趨勢同步
華文唯一授權，隔週三發送
請查看您的信箱，我們將寄送驗證信給您，確保未來信件會送到您的信箱
