馬斯克的「暫停AI研發」公開信，有什麼問題？

這封信目前沒有得到ChatGPT開發者Open AI執行長奧特曼連署。雖然他先前也曾提過，AI會出錯，且在開發AI的過程中，有外部獨立審查機制很重要。

爭議：過於浮誇，模糊焦點？

這封信雖然取得重量級學者、專家、商業領袖支持，但也有一些批評聲浪。

其中，這封公開信引用的第一篇論文的共同作者，華盛頓大學語言學教授班德（Emily M. Bender）就抨擊，這封信充斥著「AI炒作」（AI hype），並濫用了她的研究成果。

班德指出，她的研究特別強調目前大型語言模型在壓迫性系統中的使用，這是比「假設的未來AI」更具體、更緊迫的問題，「我們在2020年末寫了這篇論文，提出不考慮風險，而一頭栽進更大的語言模型是一件壞事，但風險和危害從來都不是關於『過於強大的AI』，」「相反地，是關乎於權力集中在擁有AI的人們手中，他們再製了壓迫的體系，對資訊生態系統和自然生態系統造成破壞。」

廣告

班德認為，信中主打「能力強到可以跟人類競爭的AI，會對社會和人類構成風險」，是將重心過度放在科幻片般的AI，而不是人類的一種誤導性說法。

普林斯頓大學資工系副教授納拉亞南（Arvind Narayanan）附和，指出這封信充滿「對AI的炒作」，會使真正、正在發生的AI危害變得更難解決。

「我們是否該發展最終可能超越我們、比我們聰明，並取代我們的非人類思維？我們應該冒著失去對文明控制的風險嗎？」「這些問題是無稽之談和荒謬的，」納拉亞南針對公開信的內容說道，機器是否會取代人類並接管人類文明，這類非常遙遠的問題是「長期主義」（longtermism）的一部分，也許長期而言是有效的擔憂，但卻會分散我們對當下問題的注意力。納拉亞南認為，目前更需要關注的是已經在延燒的資訊安全問題。

歐盟警察歐洲刑警組織也警告，ChatGPT現在最棘手的問題是，可能被濫用於網路釣魚、虛假訊息和網路犯罪。

廣告

另一些批評者的理由，則衝著馬斯克本人而來。

康乃爾大學數位訊息法教授格里梅爾曼（James Grimmelmann）表示，「考慮到特斯拉一直在努力規避它們家自動駕駛汽車中有缺陷的AI的責任，馬斯克簽署協議是非常虛偽的，」「暫停是個好主意，但這封信含糊不清，沒有認真對待監管問題，」格里梅爾曼說。

該怎麼做？

不過，儘管對公開信的措辭與失焦有所疑慮，多數專家們都同意，放慢速度、探討AI技術監管，是人類社會該思考的事。

「這封信並不完美，但精神是正確的：我們需要放慢腳步，直到我們更好地理解其後果，」簽署公開信的紐約大學教授加里馬庫斯（Gary Marcus）說，「大公司對他們正在做的事情愈來愈保密，使得社會很難抵禦可能出現的任何危害。」

那麼，下一步該怎麼做？在公開信中，科技大佬們只說暫停研發6個月，沒有提出更深刻的策略，我們只能從其他先例來參考。

廣告

全球監管最進步的地區，歐盟，其實從2021年起就起草《人工智慧法案》，它禁止某些人工智慧應用，例如社交評分、操縱，以及某些臉部識別實例。它還會將 AI 的某些特定用途指定為「高風險」，使開發人員必須遵守更嚴格的透明度、安全性和人工監督要求。

原本法案今年要上路，但碰上去年的ChatGPT熱潮而暫緩。目前歐盟委員會、歐盟理事會和歐洲議會將在4月三方談判中，重新討論最終AI法案的細節。《Politico》指出，此舉引發許多專家與民眾不安，因為監管機構其實也對ChatGPT束手無策。

在英國，政府目前計畫在各部門分派AI監管責任，而不是建立一個專門處理AI問題的單位。

世界其他地區，目前尚未有針對AI，更別說是更進步的GPT-4量身打造的規範。

特別是美國，《Vox》報導，國會和更廣泛的聯邦政府，缺乏AI方面的深厚專業知識，而AI前所未有的速度和力量，將得制定標準來控制它變得更加困難。

廣告

即使這封公開信以及主要發起人有些爭議，它呼籲打造更準確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠的AI工具，仍是值得各國努力的目標。這封信也代表著科技圈第一次對生成式AI做出激烈的反思，就這個角度來看，可能是個好的開始。

（資料來源：Reuters, VICE, Vox, Politico）