比照核彈管制！最強AI模型Claude Fable 5，為什麼你不能用？

白宮顧問薩克斯（David Sacks）在X上發文表示，政府曾要求阿莫迪「修正漏洞或直接下架」Fable，但「但他拒絕了。」

Anthropic消息人士補充，公司在產品發表前曾與政府合作進行測試，當時官方並未提出任何國家安全疑慮。

Anthropic內部人士透露，川普政府基於未具體說明的國安威脅，便指示他們阻擋「外國人」使用這些模型。公司旋即宣布對全球所有用戶全面關閉Mythos和Fable的存取權限，因為只有這樣可以真的遵守指令。至於阿莫迪有沒有拒絕填補漏洞，公司就沒提了。

然而，川普政府的首要目標可能並非遏制外國人存取尖端模型。政府似乎將出口管制當成順手工具，藉此針對川普口中的「失控激進左翼AI公司」Anthropic。如果真的是這樣，在這場川普政府與頂尖模型開發商的權力鬥爭中，外國人可能只是「被流彈打到的路人」。6月13日，美國戰爭部長赫格塞斯（Pete Hegseth）得意宣稱，他在三個月前就已經把Anthropic「趕出」了五角大廈，並表示，「過去的每一天都證明，那是非常正確的決定。」

廣告

美國政府與亞馬遜之間的這場密談，凸顯了美國科技巨頭與政府在應對新興技術未知科技能力時的角力關係。

亞馬遜身為Anthropic大股東，不僅為資料中心提供晶片，同時也部署了Anthropic最頂尖的模型來識別軟體漏洞。而上週五這一連串驚人的連鎖反應，展現了全新技術的發現與測試，能在多麼短的時間內左右政府的監管政策，甚至是企業的命運。

然而，Anthropic反駁，亞馬遜所指出的漏洞其實相對基本。該公司強調，其他市面上公開的模型同樣有能力發現這些漏洞，這根本稱不上是外界所說的「越獄」。幾位熟悉亞馬遜研究內容的安全研究人員，也贊同Anthropic的觀點。

軟體漏洞領域權威穆蘇里斯（Katie Moussouris）看過引發這場風波的亞馬遜報告，她說，亞馬遜報告中提到的技術本意主要是為了協助網路防禦人員。她直言，如果這時候把漏洞修補掉，反而會削弱該模型在網路安全防禦上的實用價值。

廣告

Anthropic強大模型被禁，是一個地緣政治的分水嶺。這讓人聯想起美國在1970年代至1990年代間，限制用於數位通訊安全的「公開金鑰加密」技術。當時政府主張加密技術等同軍火物資，甚至曾有一名開發者因違反《國際武器貿易條例》而遭FBI調查。最終，公民自由倡議者贏得了勝利，爭取到使用、銷售和出口大多數加密系統的權利。

加密技術雖然強大，但應用範圍不大。相較之下， AI強大，功用也更廣。6月11日，參議院情報委員會副主席華納（Mark Warner）透露，統領國家安全局及五角大廈網路司令部的拉德（Joshua Rudd）將軍曾告訴他，Mythos 模型「入侵了我們幾乎所有的機密系統，而且不需幾週，只需短短幾個小時」。

廣告

然而，先進AI在另一個層面上，也與當年的加密技術截然不同。 密碼加密技術最終在海外普及，但美國如今在AI領域則享有絕對的領先優勢。中國受美國晶片禁令掣肘，目前技術大約落後一年。而一旦Anthropic或其他美國實驗室率先突破了「遞迴自我改進」（RSI），也就是讓模型自己寫出更優秀的升級版本，技術進而呈指數級加速演進，那麼美國的這項優勢，將會變得牢不可破。許多業界內部人士認為，這完全是有可能的。

管理AI最強模型，比照核彈？

因此，一個更貼切的類比或許是核子技術，這個對比長期以來令 AI 研究人員既感到啟發、著迷，又深感恐懼。二戰期間，英國曾與美國共享早期的核武研究。但在1946年戰爭結束後，眼看原子彈在日本展現出驚天動地的威力，美國國會隨即通過了《麥克馬洪法案》（McMahon Act），切斷了與所有外國的合作，美國最親密盟友也不例外。直到很久以後，在英國證明自己也有能力研發出原子彈之後，雙方的全面合作才恢復。

廣告

如今，美國的盟友再次陷入震驚與混亂。許多國家先前花了數月時間，才為政府部門、銀行和企業爭取到Mythos的存取權限。然而，這些許可在一夜之間化為烏有。這次的技術封鎖沒有任何人能豁免，就連美國在「五眼聯盟」（Five Eyes）中的情報夥伴澳洲、英國、加拿大和紐西蘭也不例外。這些國家近期才因美國國會未能展延關鍵的監視授權，而面臨情報空窗的困境。如今失去對Mythos的存取權，更讓他們落得與俄羅斯、中國或伊朗相同的處境。就連全球頂尖的模型測試與越獄評估機構英國AI安全研究所（AI Security Institute），也被拒於門外。

部分外國決策者將此舉視為警鐘。英國前安全大臣圖根哈特（Tom Tugendhat）主張，「有了如此血淋淋的教訓，每個國家都會開始思考，他們需要投入什麼才能實現技術主權。」然而，智庫卡內基國際和平基金會的萊希特（Anton Leicht）撰文指出，歐洲及其他中等強國正處於進退兩難的窘境，「你覺得一個連Fable都不願意讓你用的川普政府，會允許你購買足夠的頂級晶片，去自行訓練一個不受限制的Fable仿製模型嗎？」

一名英國前情報官員表示，情報機構很可能會重新獲得Mythos的存取權，相關談判已在進行中，但民營企業恐怕就難得多。即便如此，部分觀察家認為美國政府最終仍不得不妥協。喬治城大學安全與新興技術中心（CSET）的托那（Helen Toner）表示，「盟友們或許可以找到一絲安慰，因為有鑑於美國AI公司內部有著大量的外籍人才，這種做法長遠來看是完全行不通的。限制外籍人士存取模型，基本上等於讓這些受影響的公司無法再進行任何進一步的AI研發工作。」

此外，這項政策也可能被證明是徒勞無功。FBI網路部門前官員凱瑟（Cynthia Kaiser）指出，在黑市上，駭客可以購買美國人的虛擬身分來取得AI模型的存取權，甚至還能買到越獄工具。Anthropic其實早就限制了Claude模型在中國的使用，但中國用戶至今依然能相對輕鬆繞過限制並成功存取。

近幾個月來，川普在AI政策上的手段邏輯混亂且前後矛盾。他推翻了前朝政府制定的絕大多數監管法規，並多次冷嘲熱諷。隨後，他卻又允許向中國出售先進的AI晶片。

到了4月，川普這種對AI安全政策放任的態度受到質疑，因為那時候，Anthropic開發出Mythos預覽版，結果是公司自己評估認為對國家安全構成了巨大威脅，因而主動將發布範圍限制在少數通過審核的客戶中。接著在6月2日，川普簽署了一項行政命令，要求建立一個自願性框架，讓AI實驗室在正式發表最先進模型前不久，必須先提供給政府進行評估。

然而，川普政府這次對Fable 5和Mythos 5突如其來且反覆無常的禁令限制，與上述的做法背道而馳，與Anthropic執行長阿莫迪一直倡導的「一貫且透明的監管」更是相去甚遠。照理說，專門審查尖端模型是否具備危險能力的政府機構「AI標準與創新中心」本應在這類爭議中扮演獨立仲裁者的角色，但就在過去幾天，政府已指示該中心停止發布公開報告。隨著先進AI的存取權正式演變為國家安全問題，美國的治理，似乎正變得愈來愈不透明。

(資料來源：The Economist, WSJ)