奧特曼被趕下台，揭示AI發展的哪些深層隱憂？

第一個分歧：哲學信念

這種分歧，部分反映了兩者間哲學上的差異。末日陣營中的許多人都受到「有效利他主義」的影響，這項思潮擔心AI可能消滅全人類。擔憂者包括阿莫迪（Dario Amodei），他離開Open AI創立了另一家語言模型公司Anthropic。而包括微軟、亞馬遜在內的其他大型科技公司，也擔心AI的安全。

科技樂觀者則擁護一種名為「有效加速主義」的世界觀，認為AI的發展不僅應該不受阻礙，還該加速。帶頭的是創投Andreessen Horowitz的共同創辦人安德里森（Marc Andreessen）。其他AI專家似乎也持相似看法，Meta的楊立昆和吳恩達，以及包括Hugging Face和Mistral AI在內的眾多新創公司，都主張減少限制性監管。

奧特曼好像對這兩個群體都能同理，他公開呼籲建立「護欄」以確保AI安全，同時，推動開放AI開發更強大的模型並推出新工具，例如提供用戶建立自己的聊天機器人的應用程式商店。因此，如果奧特曼沒能回來，Open AI可能會更堅定地站在末日論者那一邊。

廣告

第二個分歧：商業利益下的監管力度

然而，或許還有比抽象的哲學更複雜的事情，上述兩個群體也沿著商業路線而分裂。末日論者是AI競賽的先行者，擁有更雄厚的財力並支持模型專利。而科技樂觀者則更有可能是一家正在迎頭趕上、規模較小，且更喜歡開源軟體的公司。

從早期贏家開始分析。Open AI的ChatGPT在推出後的短短兩個月內就有了一億用戶，緊追其後的是Anthropic，目前估值約250億美元。Google的研究員撰寫了關於大型語言模型的原始論文，該模型是經過大量資料訓練的軟體，並支援包含ChatGPT在內的聊天機器人。Google一直在催生更大、更聰明的模型，以及名為Bard的聊天機器人。

同時，微軟的領先定位，很大程度是建立在對開放AI的巨大賭注上。亞馬遜則計劃向Anthropic投資40億美元。

但在科技領域，先驅並不總是保證成功。在技術和需求都快速發展的市場中，新進者有充分的機會顛覆現有企業。

廣告

這可能會讓末日論者推動更嚴格的管制。五月，奧特曼在美國國會作證時表達了該產業可能「對世界造成重大傷害」的擔憂，並敦促制定AI具體法規。同一個月，由Open AI、Google等公司與350名AI科學家和科技業高管簽署的一份聲明，警告AI帶來的「滅絕風險」堪比核戰爭和流行病。儘管前景令人驚懼，支持這份聲明的公司都沒有暫停建立更強大的AI模型。

政客們正爭先恐後地表明他們認真對待這些風險。七月，拜登政府敦促七家領先的語言模型製造商做出「自願承諾」——在向大眾發布AI產品前，讓專家先進行檢查。十一月，英國政府簽署了一項不具約束力的協議，允許監管機構測試AI產品的可信度與有害能力，例如危害國安等等。幾天前，拜登又發布了一項更具說服力的行政命令，強制任何正在打造超過一定規模的AI公司要通知政府，並分享其安全測試結果。

第三個分歧：開源與否

兩個群體之間的另一個意見相左，是開源AI的未來。大型語言模型（LLM）若非獨佔，像是來自Open AI、Anthropic、Google，就是開源。Meta的模型LLAMA於二月發布，刺激了開源AI領域的活動。

廣告

支持者認為，開源模型更安全，因為它們會接受審查；反對者則擔心，公開這些強大的AI模型會讓不肖人士將它們用於惡意目的。

但圍繞開源的爭論，也可能反映兩方的商業動機。例如，創投是開源的鐵粉，也許是因為這樣能讓他們投資的新創找到趕上技術前沿，或免費獲得模型的方法。現有企業可能擔憂競爭威脅。Google內部人士於五月洩漏的一份備忘錄承認，開源模型在某些任務上取得的成果，可與專利模型相當，而且建造成本也低得多。備忘錄的結論是，Google和Open AI都沒有任何針對開源競爭對手的「護城河」。

目前，監管機構似乎已經接受了末日論者的論點。拜登的行政命令可能會阻礙開源AI的發展。但並非所有大型科技公司都完全站在分歧的兩邊。Meta開源自家AI模型的決定，讓它出乎意料地成為新創公司擁戴的對象，因為它讓新創公司能使用強大的模型來建立創新產品。而Meta認為，開源工具帶來的創新浪潮，最終將透過產生更新形式的內容來幫助這家公司，從而讓用戶著迷、讓廣告商滿意。

廣告

Apple是另一個異類。這家全球最大的科技公司對AI特別沈默。在九月推出新款iPhone時，Apple展示了眾多由AI驅動的功能，但沒有提到這個詞彙，而是傾向用「機器學習」來代替。

OpenAI的戲劇顯示了AI文化戰爭的破壞性有多強大。但正是這些戰爭決定科技會如何進步、如何被監管以及誰會獲得戰利品。

（本文由「經濟學人」獨家授權轉載）