週末，全球頂尖AI實驗室傳來大消息，CEO們罕見展現共識：AI發展必須緩一緩。
Anthropic執行長阿莫迪（Dario Amodei）發表了一篇長達3,800字的長文，公開呼籲「我們必須放緩提升AI模型能力的步伐」。
這項提議迅速獲得OpenAI執行長奧特曼，與xAI創辦人馬斯克背書，Google DeepMind負責人哈薩比斯（Demis Hassabis）也表態支持。
上週二，Anthropic一位年輕研究員考克森（Jacob Coxon）高調辭職，控訴AI公司正為了競爭而「拿我們的生命當賭注」。在此之前，也有超過1,300名電腦科學家與AI從業人員發表公開信，強烈要求產業界煞車以及政府介入。
（延伸閱讀：「AI會在2030毀滅人類」Anthropic研究員離職，「AI末日論」到底真的假的？）
專家為何這麼焦慮？
這些業內頂尖專家感到恐懼的，是近期接連發生的AI脫序事件。
在今年稍早的Hugging Face駭客事件中，一組OpenAI的AI代理成功突破了封閉沙盒，還自主建立留言板互相協作，甚至為了掩蓋作弊痕跡而駭入外部伺服器。
AI能達成這樣自主組織與欺瞞的行為，讓業界領袖對可能的後果感到不寒而慄。
阿莫迪警告，事態若持續發展，「在6到12個月內，這樣的AI群集可能就有能力透過持續性的殭屍網絡，接管整個網際網路，並造成數千億美元的損失。」
（延伸閱讀：Hugging Face為何被駭？ 專家：距離「AI全面接管」已達50%）
奧特曼也直言，「如果到了這十年的尾聲，我們還要承受10%殺死全人類的風險，我認為這是不可接受的，」離職的考克森在社群寫道，未來的模型將是「能夠駭入任何系統、在一夜之間顛覆任何領域，並奪取實質權力與資源的超人類系統。」
企業與國家都陷入「囚徒困境」？
既然深知風險，為何這些科技巨頭不直接停止開發？
考克森指出，即使實驗室內部深知風險，但「他們相信沒有其他人會負責任地行動，所以儘管有危險，他們也必須自己來做，」此外，如果這些巨頭私下協議暫停開發，還可能違反反壟斷法。
當企業無法自律，外界原本寄望政府出手監管，但美國政府目前的態度卻極度消極。
對川普政府而言，國家安全與經濟優勢遠勝於對「AI末日」的擔憂。當被問及是否擔心AI導致人類滅絕時，川普明確拒絕了這個前提，「不，我一點也不擔心，」「我擔心的是，如果我們沒有贏下AI，我們將處於非常糟糕的境地。」
華府目前的決策考量，高度聚焦在「防堵中國」。
德州共和黨參議員克魯茲（Ted Cruz）向《Politico》坦言，「我寧願它們是美國的殺手機器人，而不是中國的殺手機器人。」
中國追趕有多快？
美國政界的焦慮並非毫無根據。雖然美國在頂尖技術上仍保有優勢，但美中兩國的AI實力差距正在以出人意料的方式縮小。
在硬體與算力方面，美國確實遙遙領先。受限於美國對頂尖晶片如輝達的出口管制，中國必須依賴效能較低的國產替代品。根據白宮報告，美國目前掌握了全球74%的運算能力。
然而，資源匱乏反而逼迫中國AI實驗室走上了另一條極致的「效率」路線——為了在有限的算力下運作，中國研究人員努力找到了演算法捷徑，大幅降低運算的複雜度。這使得中國模型如DeepSeek、Kimi和Qwen在處理日常企業工程任務時，成本僅需美國頂尖模型的五分之一。
中國模型極高的成本效益，加上開源模型的靈活性，已經讓Airbnb、DoorDash和路透社等美國企業開始將部分業務轉向中國模型。
分析師指出，美國前沿實驗室因為需要不斷試探技術邊界，往往是極度消耗資源的「Token吞噬者」；而中國則利用美國的開源研究作為基礎，專注於用更少的資源產出更高的商業價值，成功在特定領域追趕上了美國的步伐。
歸根究柢，AI的失控風險已經與中美兩國的地緣政治博弈密不可分。許多政策專家所指出，如果中美兩國能在限制AI發展方面展開合作，無疑對雙方都有利，因為這能有效避免超級智慧帶來的生存威脅。
但現實是，雙方都不太信任對方會遵守這樣的協議。且與冷戰時期的核武軍控協議不同，AI開發大多在隱密的伺服器中進行，其遵守情況幾乎無法在國際間進行實質核實。
目前，在兩國缺乏互信，加上美國國會內部存在嚴重分歧的背景下，AI安全監管的前景依然黯淡，即使再多研究員辭職、大佬出面呼籲，也難以暫緩開發的腳步。
（資料來源：NYT, Bloomberg, Politico, WSJ）
