cwlogo

切換側邊選單 天下全閱讀 切換搜尋選單
切換會員選單

馬斯克:AI是人類文明最大威脅,政府必須管制

精華簡文

馬斯克:AI是人類文明最大威脅,政府必須管制

圖片來源:GettyImages

瀏覽數

11046

馬斯克:AI是人類文明最大威脅,政府必須管制

天下雜誌628期

最近,矽谷兩大巨頭特斯拉執行長馬斯克與臉書執行長祖克柏為了AI而公開對槓。相較於祖克柏的樂觀論調,馬斯克嚴肅警告,AI十分危險,不只能取代人力,還能挑起戰爭,威脅人類存亡。

鋼鐵人遇上魔鬼終結者?這不是什麼新電影,而是一場新論戰的開始。論戰的焦點,是眼前最夯的科技:人工智慧。

從美歐到中國,全世界大國都投入了發展AI的競賽。AI的應用潛力令人期待,但如果進展太快,會不會反而變成「召喚惡魔」,毀滅人類?

「人類真的要擔心,」特斯拉執行長馬斯克近年來不斷呼籲,AI學習速度突飛猛進,已對人類文明存亡造成根本性威脅。如果不儘早管制,最可怕的情況,是AI有可能自行散布假新聞,挑起戰爭,就像《魔鬼終結者》的「天網」那樣,帶來人類末日。

正因為這樣的預言實在太聳動,最近引來另一位矽谷科技巨頭、臉書執行長祖克柏公開對槓,直批這種說法「不負責任」,換來馬斯克回嗆,「他對這個議題的理解很有限。」

樂觀論vs.威脅論,這場辯戰的煙硝四起。但無論如何,馬斯克給政府的建議:搞懂AI的能耐,還是值得注意。以下是他最近參加幾場座談的重點整理:

我從小時候就想知道,人生的意義是什麼、為什麼我們會在這裡。隨著年紀增長,我發覺人生愈來愈讓人困惑。因為許多事情都在飛快演變。

例如電玩。40年前,我們玩的是桌球遊戲「乓」(Pong),黑色螢幕上,就只有左右兩個小方塊,中間是一個小白點,讓玩家打來打去。在那個年代,我們覺得這樣就已經很好玩。

到了今天,大家玩的是擬真畫面的遊戲,不但非常逼真,還可以讓數百萬人同時上線,現在又加入了虛擬實境和擴增實境。就算每年只進步0.1%好了,按照這種速度推斷未來發展,總有一天,電玩遊戲將會讓人分不清什麼是真實,什麼是虛擬。

到時,就會產生混淆:我們怎麼知道某件事以前是否真實發生過?怎麼知道自己是不是正在虛假的遊戲裡?這是有可能的。

未來是很難預測的。1903年,萊特兄弟發明了第一架可操控的動力飛行器;66年之後,人類就登上了月球。如果你在1900年代問人們登月的可能性,他們會說你在開玩笑。網際網路?更是天方夜譚。

但如今,只要上百美元的裝置,你就能跟全世界進行視訊會議;只要有無線網路,你就能用社群媒體跟幾百萬人進行直播;你可以Google幾乎每件事,馬上看得到搜尋結果。這些進展,過去根本不可能預測得到。

因此可以確定的是,50年後的未來會變成什麼樣,我們今天所做的任何預測,都將是錯誤的。但我可以告訴你我希望的未來是什麼樣,這可能是一廂情願的想法,我希望那時的人類已經登上火星、甚至木星的幾個衛星,我希望那時我們可以在太陽系到處旅行,或許還準備去探索其他星系。

十年後,搭車將會像搭電梯

我認為,成為多星球的物種,在不同星系間殖民,對人類的延續至關重要,這就像替全人類買保險一樣。而這一切,都有可能在50年後發生。

另方面,我認為短期之內,「自動駕駛」和「人工智慧」這兩種科技,即將出現突飛猛進的變化。

我猜十年後,幾乎所有的新車都將具備自動駕駛的功能,就像現在的特斯拉汽車都已配備了自動駕駛所需的感測器,也擁有足夠的運算能力,可讓自動駕駛比人類開車更安全。

去年十月後出廠的所有特斯拉汽車都是這樣,其他的汽車製造商也會跟進。所以,搭車將會像搭電梯一樣,你告訴車子要去哪裡,它就會把你安全地載到目的地,而這將成為常態,自動駕駛必將普及。

比人類更聰明也更危險

我認為最令人不安的,是人工智慧。

這不是指車輛自動駕駛這一類,用來達成某種特定功能的狹義人工智慧,而是深度的人工智慧,有些人把它稱為「通用人工智慧」(AGI),它會比地球上最聰明的人更加聰明,我認為這很危險。

不妨這麼想像,如果你相信,未來10年、20年將會有超級智慧的外星人出現在地球,那麼,AI這種「數位」超級智慧的影響,將會像外星人降臨。

我接觸過最尖端的人工智慧,所以認為大家應該要擔心,也不斷對外發出警告。但是,除非有一天,人們親眼看到機器人在街頭殺人……,大家一定不曉得如何反應。

人工智慧,是少數我認為應該主動立法管制的議題,因為等到我們被動去規範它,那就已經太遲了。

以往政府立法管制某個行業,通常是發生了一些不好的意外,引發公憤,抗議多年後,政府終於成立監管單位來規範。過程中,會有很多業者跳出來反對,說法規會綁手綁腳等等。

過去這種被動立法,影響都還不算嚴重,但人工智慧不同。人工智慧是攸關人類文明存亡的根本性威脅,嚴重性遠不是車禍、墜機、藥害或食物中毒所能比擬,這些不幸事件,只對社會中的某些人造成傷害,不會傷及整個社會,而人工智慧卻是整個文明的威脅。我認為人們並不了解這一點。

誰都不喜歡被監管,像我們在汽車業被美國運輸部、環保署,還有各國不同單位監管;在航太業被聯邦航空總署(FAA)監管。但你會希望FAA消失,相信廠商在造飛機的時候,不會為了省錢偷工減料?一般人大概會說不行,這太可怕了。(笑聲)

即使是極端的自由市場派人士,也會認為應該有所監督,確保他們做出好飛機、好汽車等。所以,監管單位扮演著重要的角色。

政府第一步:搞懂AI的能耐

我反對政府過度管制,這點毋庸置疑,但是,對於人工智慧,我們必須儘早加以管制,確保企業不會為了市場競爭一味開發而犧牲公眾利益。監管機構應該介入,要求業者確保他們的技術是安全的,才能繼續發展,否則,就要減慢研發的速度。

政府首先該做的,是做好功課,盡可能搞懂人工智慧是什麼,了解這項科技的最新進展和成就。

去年,Google子公司DeepMind開發的AlphaGo打趴了世界棋王,如今它可以同時跟全球50大高手對戰,照樣完勝,進步的速度非常驚人。不只這樣,現在機器人可以在幾小時內,學會如何走路,學習速度比任何生物都要快。

事實上,最危險也最難懂的,是人工神經網絡中的深度智慧。它能做什麼呢?它可以挑起戰爭:藉由散布假新聞、製造假郵件帳號、偽造新聞稿,以及操縱訊息。

舉一個假設性的例子,幾年前,一架馬來西亞航空客機在烏克蘭上空被擊落,曾導致俄羅斯和歐盟的緊張升高。假設你是一家人工智慧公司,你想要讓股票價值最大化,一個方法就是把業務重心放在軍事領域(而不是消費)。

發動一場戰爭吧,怎麼做?AI可以駭入馬航班機的伺服器更改航道,讓它飛入戰區領空,然後再匿名檢舉,說有一架敵方飛機正在飛越,就這樣。

未來會有很多工作被取代。全世界的工作有12%都跟運輸有關,運輸業將會是最早走向全自動駕駛的行業。機器人可以把每件事做得比人類還好,我其實也不確定該怎麼辦,這真的是最可怕的問題。

關鍵字:

好友人數

文章下載

PDF下載 付費閱讀
 
登入會員看更多

訂閱全閱讀,全站通行