2019年，當OpenAI完成GPT-2大型語言模型訓練時，這家AI實驗室認為它的危險性過高，不宜公開。
時任OpenAI研究主管的阿莫迪（Dario Amodei）認為，世界需要時間做好準備。
GPT-2同年稍晚發布。此後，一系列更強大的模型相繼問世，但並未引發末日。然而，7年過去，如今身為OpenAI強勁對手Anthropic領導人的阿莫迪宣稱，Claude系列最新模型「Mythos」暫時不適合廣泛發布。這一次，他或許是對的。
Anthropic表示，Mythos有能力發現軟體漏洞，並根據設定做出不同行動：若作為防禦者，能修補漏洞；若作為駭客，則能乘虛而入。
Anthropic最新的示警仍值得重視。
首先，是嚴重程度：Anthropic表示，Mythos已經在「所有主要作業系統與網頁瀏覽器」中發現嚴重漏洞，其中甚至包含一個長達27年未被發現的漏洞。
訂閱經濟學人電子報（隔週三發送）
英國《經濟學人》獨家授權，天下精選翻譯，與國際財經趨勢同步
訂閱經濟學人電子報
華文唯一授權，隔週三發送
感謝您的訂閱！
請查看您的信箱，我們將寄送驗證信給您，確保未來信件會送到您的信箱
