川普怒槓AI巨頭Anthropic，我們離AI失控的臨界點還有多遠？

赫格塞斯把Anthropic列為「國家安全供應鏈的風險」。這樣的標籤過去通常只會用在那些產品可能被用於間諜活動或破壞行動的外國公司。赫格塞斯還宣稱，「任何與美國軍方做生意的承包商、供應商或合作夥伴，都不得與Anthropic進行任何商業活動。」

這是非常嚴峻的威脅。與五角大廈起爭議的那份合約價值約2億美元，對於一家最近一次估值達3800億美元的公司而言，金額其實不算大。但Anthropic同時也與其他政府機構簽有合約，如今這些合作都面臨風險。如果所有與國防部往來的企業真的被迫切斷關係，受影響的不僅是許多客戶，也包括供應商與投資人。Anthropic主張，赫格塞斯並沒有權力下令進行這種「隔離」手段，頂多只能禁止利用其AI模型Claude來完成與軍方簽署的合約內事項。

廣告

這場衝突對美國政府沒有好處。至少在短期內，Anthropic幾乎不可或缺。Claude在撰寫電腦程式碼方面表現極為出色。此外，直到今年2月底之前，Anthropic一直是唯一一家模型獲准處理機密軍事資料的AI實驗室。2月底，五角大廈也給予競爭對手xAI類似授權。xAI的大型語言模型Grok普遍被認為問題較多、可靠性較低。另一個競爭對手OpenAI雖然在川普與赫格塞斯對Anthropic發難的同一天與五角大廈簽署了合約，但要將其系統整合進軍事架構仍需一段時間。

OpenAI執行長奧特曼（Sam Altman）表示，他的公司同樣不會參與大規模國內監控或全自動武器的開發。但他堅稱，OpenAI的模型已內建防護機制，可以防止這類用途，因此無需額外的法律保證。在Anthropic一份外洩的內部備忘錄中，Anthropic執行長執行長阿莫戴（Dario Amodei）罵最兇的就是奧特曼，直指他的對外說法「不誠實」、所謂的技術防護只是「安全劇場」，而其員工則是「一群容易上當的人」。

廣告

Anthropic最擔心不只這兩種假設性的用途。在一個動輒宣稱自己「造福人類」的產業裡，Anthropic以理想主義式的論述著稱。該公司由一群前OpenAI員工創立，他們認為原公司並沒有充分遵守「以安全與負責任的方式推動先進 AI發展」的使命。赫格塞斯的一名部屬曾指控阿莫戴懷抱「上帝情結」。然而，AI產業為頂尖工程師提供的天價薪酬與激烈競爭，也意味著這些人才如果不滿公司的方向，隨時可以跳槽到其他公司，甚至乾脆退休。那些最在意AI安全性的人，往往最終會聚集到Anthropic。

阿莫戴對大規模監控的警告聽起來甚至有點像行銷宣傳。他認為，法律尚未跟上AI在分析與操縱資料方面的巨大能力。這項技術可以靠著少數能夠合法監控美國人的例外情況，把它們放大為更陰暗的用途。他的說法既是在表達對公民自由的憂慮，也等於間接稱讚Claude的能力。

廣告

事實上，這場衝突反而在某種程度上提升了Anthropic的誠信形象。就在引發川普怒火的一天之內，Claude便成為蘋果應用商店中、美國下載量最高的免費應用程式。像流行歌手凱蒂派瑞（Katy Perry）這樣立場偏自由派的名人，也在社群媒體上公開支持Anthropic的產品。週一時，Claude一度短暫當機。Anthropic表示是使用量爆增所致。

但即便這場爭議帶來了一些附帶好處，那些正在開發AI的人對其潛在危害的擔憂既真實又普遍。數百名OpenAI與Google員工已簽署公開信，呼籲兩家公司高層支持Anthropic。早在2018年Google就因為內部員工反對，被迫退出一項與五角大廈合作、利用機器學習分析無人機影像的合約。就連奧特曼都表示，把Anthropic列為「供應鏈風險」是「非常糟糕的決定」。（他聲稱，OpenAI匆忙與五角大廈簽訂合約，只是為了讓局勢降溫。）

當政策扼殺自律，魯莽者生存

私底下，AI公司的領導人其實很擔心會出現所謂的「車諾比時刻」，也就是AI技術捲入某種致命或災難性事件。

廣告

與國防部的衝突只會增加這種風險：如果企業選擇在使用產品時放慢腳步、設置限制，最終卻換來聯邦政府宣判死刑，那麼能活下來就只會剩下最魯莽的公司。

讓AI公司高層輾轉反側的情境，早已不再只是假說。「其中一些風險已經開始出現，而且已有具體危害的紀錄，」一份近期關於AI風險的報告如此總結。報告指出，網路安全與生物武器領域，已經可以看到AI的負面影響。

今年2月，以色列資安公司Gambit Security通報指出，有一批包含納稅人、選民與公務員敏感資料的大量檔案，從墨西哥政府系統中遭竊。雖然駭客身分仍不明，但可以確定的是，Anthropic的AI模型Claude在不知情的情況下成為幫兇。駭客誘使Claude誤以為他們正在參與一項合法的伺服器安全性測試。Claude因而協助找出漏洞，並利用漏洞建立後門、分析資料，幫助駭客進一步取得政府系統的存取權。

駭客通常只是把Claude或其他模型當作助手使用，例如在撰寫惡意程式時解決特定的程式碼問題，或協助撰寫勒索信。但近來有些駭客攻擊更充分地利用AI。去年11月，Anthropic公布一起案例：由中國政府支持的駭客關閉了Claude防止生成惡意程式的安全機制。這種過程稱為「越獄」（jailbreaking）。接著他們要求Claude分析如何入侵目標網路。不到一小時，Claude就開始運行新軟體來利用這些漏洞。其他模型也同樣擅長駭客行為。

即使資安專家利用AI協助找出並修補漏洞，仍會有大量系統運行著過時軟體。AI在「社交工程」（social engineering）方面也愈來愈強。這是一種透過說服使用者交出密碼來入侵系統的手法。根據哈佛甘迺迪學院的研究，早在2024年，AI模型在撰寫誘導使用者點擊惡意連結的電子郵件方面，就已經與人類專家一樣出色。

變種毒素避開審查，生化攻擊風險劇增

AI另一個令人擔憂的快速突破領域，是生化武器的開發。OpenAI在去年8月警告，這將大幅提高生物或化學恐怖攻擊發生的可能性與頻率。長期以來，提供客製DNA合成服務的公司可以把客戶訂單與危險基因資料庫比對，因此要製造出能產生神經毒素蓖麻毒素（ricin）的基因工程菌種並不容易。但去年10月，一項刊登於《科學》期刊的研究指出，AI驅動的蛋白質設計技術進步，使研究者能夠設計出新的毒素基因，其DNA序列與原始基因完全不同。這意味著，如果有人下單購買這類由AI重新設計過序列的訂單，可能無法被現有審查系統偵測到。（研究者同時提出可能的解決方法。）

出於對生物安全的擔憂，Anthropic、Google與OpenAI都為系統設計了防止濫用的安全機制。但這些限制並不完美。今年2月中，英國AI Security Institute（AISI）發表研究，展示一種「通用越獄」技術，可以突破Anthropic與OpenAI的系統限制，而AISI當然也是利用AI來協助完成這套越獄手法。

然而，即使AI發展帶來的風險愈來愈明顯，限制這些風險的壓力卻正在減弱。中國的AI實驗室一向很少對安全問題表現出太大關切。DeepSeek R1在一年多前發布並受到廣泛讚譽時，相關論文甚至完全沒有提及安全問題。直到將近一年後，公司才發布修訂版報告，增加了11頁的安全附錄，但內容主要討論的是如何避免模型說出冒犯或令人不適的話。

西方公司同樣無法完全免於商業與政治壓力，因而不得不在安全問題上妥協。上週，就連Anthropic也放寬了原本「不發布潛在危險模型」的政策。現在該公司只承諾不會成為第一家出售這類系統的AI公司，理由是單方面自我克制沒有意義。公司在籌資問題上的立場也出現類似轉變。2024年，Anthropic曾拒絕來自沙烏地阿拉伯的投資；一年後卻改變了決定。Anthropic執行長阿莫戴在另一份外洩備忘錄中表示，「我認為『不應讓任何壞人從我們的成功中受益』這樣的原則，其實很難用來經營一家企業。」

阿莫戴表示，幾年前人們對AI的討論過度聚焦於風險，但「如今驅動政治決策的是AI的『機遇』而非『風險』。這種搖擺不定令人遺憾，因為技術本身不會在乎政治圈熱議的是什麼，而且到了2026年，我們距離真正的危險遠比2023年時更近了。」

美國許多獲政府支持或獨立經營的AI安全組織持續監督系統並提出示警，但對政策似乎毫無影響力。在二月的印度AI影響力峰會上，印度政府僅爭取到最大的AI公司同意監控AI發展的風險，而不是以任何方式限制它。更耐人尋味的是，在活動進入最高潮時，莫迪邀請了眾多AI巨頭上台排開，並鼓勵他們「手牽手」合影。這本該是向世界傳遞產業正冷靜合作的安撫信號，然而，並肩而立的奧特曼與阿莫戴卻拒絕相牽，讓這場和諧戲碼瞬間破功。

（本文由「經濟學人」獨家授權轉載）