「前方有危險！」AI教父辛頓離開Google，頂尖科學家們到底在擔憂什麼？

2012年，辛頓與兩名學生蘇茨克維（Ilya Sutskever）、克里澤夫斯基（Alex Krishevsky）建立了一個神經網絡，可以分析數千張照片並透過自學識別常見物體，例如花朵、狗和汽車。

隨後Google斥資4400萬美元收購了他們三人創辦的公司，而他們最初打造的這個神經網絡系統，催生了愈來愈強大的技術，包括新的聊天機器人如ChatGPT和Google的Bard。蘇茨克維後來成為Open AI的科學長，而辛頓則與另外兩位專家一起獲得了2018年的「圖靈獎」——電腦科學領域的諾貝爾獎。

然而，近期的事態發展讓這位業界最受尊敬的大老，開始後悔自己一手推動的事業。

隨著Open AI、Google、微軟和其他公司不斷改進自家的AI系統，它變得愈來愈強大和具有風險。辛頓不願批評Google，甚至肯定Google過去一直很謹慎、不發布任何會造成傷害的東西，他認為，科技巨頭現在無疑陷入了一場「可能無法被停止的競爭」。

廣告

蒙特婁大學學習演算法研究所科學主任本吉奧（Yoshua Bengio）說，「辛頓的許多想法使當前的深度學習成為可能，應該得到最大的讚譽，」「我認為這也讓他有特別強烈的責任感，要提醒公眾注意AI進步的潛在風險。」

專家們在害怕什麼？

辛頓指出，生成式AI帶來最迫切的問題是，網路上將充斥虛假的照片、影片和文字，「一般人將無法在分辨真偽，」他說。

由於這些系統以看起來「完全可信」的方式提供訊息，因此人類在使用它們時，可能很難區分真實與虛構。許多專家擔心人們會依賴這些系統來獲得醫療建議、情感支持以及做各式決策。

亞利桑那州立大學電腦科學教授卡姆巴巴蒂（Subbarao Kambhampati）同意，「無法保證這些系統在你交給它們的任何任務上，都是正確的。」

中期，辛頓憂心AI技術會顛覆就業市場，「它消除了苦差事，但它可能終結的遠不只如此而已，」意即，人類雖然希望重複勞動的無趣工作能有他者代勞，但目前AI也進逼一些重要的職務，像是律師助理、私人助理、翻譯等等。

廣告

OpenAI研究人員撰寫的一篇論文預估，八成美國工作者，可能有至少10%的工作任務受到大型語言模型的影響；而近兩成的工作者可能會看到至少50%的任務受到影響。

一旦勞動市場不穩定，社會就可能進入動蕩不安的困局。

長期，辛頓更害怕AI的未來版本會對人類構成威脅。他告訴紐約時報，有一天武器化的AI可能會成為現實，也就是他一直不願看到的「機器人殺手」。

在《BBC》的跟進採訪中，辛頓舉例，「就像普丁這樣的壞人決定讓機器人能創造自己的子目標。」

「AI這種東西實際上可以變得比人類更聰明的想法，大多數人認為這還很遙遠，我以前也認為大約還要30-50年甚至更長的時間，」「顯然，我不再這麼想了。」辛頓說。

雖然，也有其他專家指出，這種長期風險的擔憂只是假設性的；也有人批評之前科學家的那封公開信太過炒作。但辛頓強調，當Google與微軟和其他公司之間的競爭持續升級，若沒有全球監管，那麼迎來長期危機就是必然。

廣告

在核武方面，各國比較容易監控是否有企業或國家在進行秘密研究，不過AI研發卻很難監測。辛頓認為，在世界領先的科學家真的能控制該技術前，不應該再擴大規模了。

AI全球監管進度

目前，雖然有一些軟性的全球框架如OECD的「人工智慧全球夥伴關係」（GPAI），各國也推出各式各樣的AI法案，但尚無一個強而有力的機制防止AI競爭失控。近期在日本的G7峰會稍微提了這個可能性，但領袖們也都意識到要取得各國共識非常困難，畢竟監管與扼殺創新經常是一線之隔。

在國家與區域法規方面，走得較快的歐盟正在將ChatGPT納入《人工智慧法案》中，預期將成為國際的參考指標。然而，與其仰賴政府跟在後頭修改法規，或許如辛頓建議，全球頂尖科學家優先在「控制技術」方面進行合作，是更治標的做法。

（資料來源：NYT, BBC, The Verge, MIT, Reuters）

廣告