AI浪潮下孩子還要上學嗎？世界權威、母親李飛飛：教育是這四重點

李飛飛（以下簡稱：李）：其實我的工作領域很少接觸作家，因為畢竟我是在科技界，所以聽到妳這麼說，其實對我來說也是一種新的視角，沒想到兩個那麼不同的領域，在這個點上相似。

龍：文學上，比如說魯迅的小說《祝福》，在說一個鄉村裡死了一位阿姨（祥林嫂）。你看了文學作品之後，你不需要在實際生活裡認識一個痛苦的人，就能從文學的世界裡，理解痛苦。

妳跟我講過，妳在AI跟在醫療的交叉使用上，下了相當大的功夫，其中包括怎麼讓AI了解痛苦，這是有趣的地方，談談AI和醫療的交叉？

李：我先釐清一件事，就是今天AI其實是不能看到、體會到痛苦的。

關於與醫療交叉，大約在11年前，我還在大學AI實驗室當主任時，矽谷有一波自駕車浪潮。我當時作為實驗室主任，接觸許多汽車和新創公司，大家非常興奮，因為透過這項技術，可以改變交通現狀、減少車禍，並幫助司機、行人更全面性地了解路況。

廣告

那我自己的生活，大家看不到的一面是，我照顧生病的媽媽，所以我經常在醫院，不是在手術室門口，就是在加護病房裡，所以我對於整個醫療場景很了解。

我突然意識到，自駕車的技術，如果能應用在醫療場景，可以造福很多人類，因為無論是病房還是家裡，其實很難有足夠的人力，24小時全程照護病人。

所以我們和醫學院的研究者合作，開始啟動可能算是全球最早用智慧電腦影像，來幫助維護病人安全和醫療照護。

談到痛苦，我的學生都是很年輕、非常聰明的電腦科學家，他們很少接觸醫療、病人。每一個新的學年，我都會問新生，有誰進過加護病房，有誰照顧過病人？很少有人。

所以我意識到，即使我在做AI，要了解AI背後人的狀態，理解病患的痛苦很重要。在這些學生開始寫程式、接觸AI前，我會帶他們去醫院，了解人在病痛中的感受。

廣告

李飛飛（左）受龍應台文化基金會邀請，以「AI需要什麼人文素養」為題與龍應台（右）進行對談。（龍應台文化基金會提供）

新工具驅動文明，AI的底線：人類

龍：近幾個月，全世界的每個人都在談ChatGPT，AI背後都是工程師做出來的，如果工程師是單向度的人，沒有人文素養，不知道情感、痛苦，AI呈現的會是這個狀態嗎？

廣告

妳在2019年成立Human-Centered AI Institute（以人為本的人工智慧研究院，簡稱HAI），成員有經濟學者、哲學家、倫理學家，你們目前正在做什麼？

李：我們成立HAI，因為我們對AI 不光是憂慮，也有期待。2017年到2018年間，我在Google雲作首席科學家，做研發和產品。雲是一個特別有意思產品，也是個商業模式，因為它的客戶是大大小小的企業、不是個人。我作為當時參與的團隊，接觸很多開發者，到各種垂直產業，無論是醫療、金融、娛樂、傳媒、能源、農業等。

我最大的感受是，我的天啊！我20年前進入這個領域，純粹是出於個人好奇，我覺得好玩。但那時候我發現，我曾經那麼熱愛的這門科學，不光是我個人的熱情所在，而是會成為改變社會的驅動力。

這件事對我來說衝擊很大，我甚至覺得原本是我的AI，突然變成每個人的AI，而且我也是參與改變的其中之一，那我的責任何在？

廣告

各大公司都在研發AI，從當時到現在亦然，但是公司的目的是營利，對他的股東、員工負責。那麼，人類前進的方向在哪裡？營利導向的公司其實並不完全承載這項責任，因為人類、我們文明前進的方向有很多面向。

帶著這個使命感，我回到史丹佛跟校長、同事討論。史丹佛有歷史使命，我們的AI實驗室是歷史的一部份，也是未來的一部份。

我們今後怎麼研究AI，怎麼推廣AI，怎麼教育下一代，會直接影響這個世界、文明前進的方向。

我們認為無論AI多麽人工，它的底線是人類，所以我們成立了HAI。

當時我們確實帶著焦慮，因為這麽強大的工具，它會帶來很多改變，有些是計劃中的，比如說醫療，但是也有很多意料之外的場景。

人類的文明史本來都在不斷發掘新工具，每一個新工具給我們帶來不光是社會的進步，也有很多挑戰，所以HAI的使命就是去精進AI研究、擬定AI政策、改善人類生活、並且預測挑戰和影響。

發展AI需要道德，科學重在探索

龍：我們一方面希望開發AI要有人文關懷、社會責任和文明感，另一方面認為工程師可以沒有道德，因為他就是純粹好奇、追求巔峰，這兩者有沒有矛盾？

李：這個問題很好，我也想反問作家的觀點。至少站在科學家角度，這是一個程度的問題，我很難代表所有科學家，有人可能偏好聚焦在技術開發，有人想承擔社會責任。

但我想說，AI是一個巨大的系統，無論是ChatGPT、自駕車，它們不是一個算法而已，牽涉工業應用的設計、算法、數據本身，到最後成為產品，這裡面有非常多人參與，其實工程師只是在這個大系統中的一部份。
 
龍：這個問題讓我想到一位捷克的作家米蘭．昆德拉（Milan Kundera），他在2009年出了一本書《相遇》，其中有一篇文章我讀得非常細。他寫到共產黨統治捷克時，有很多被壓迫的異議分子、附和當局的人、被抓到牢裡的人，人們是分派系的。

他描述，有一天他去看一位不贊成政府的醫生，碰到一位新聞記者，他在候診室很快地相處得很融洽。他們甚至同車離開，在車上談論到一位老作家，他們觀點不同、當場鬧翻。

新聞記者強烈抨擊作家，在高壓統治下，作家不抨擊政府，寫作和政府、現實無關的內容，根本就是叛徒。

昆德拉很生氣，他認為憑什麼認為，所有文學都要和政治有關？昆德拉說，當政治無所不在、且所有的語彙被控制時，他去寫風、寫山、寫水的流動，其實是在說這個世界有另外一個層次存在，這個價值是無可比擬的，他們兩人就絕交了。

我個人認為不應該把文以載道、社會責任感作為文學家的標準，只要作品是好的（即可）。

我們能不能說，工程師、科學家只要追求世界上他們不知道的東西就好，我們容不容許他們這樣？

李：如果問研究黑洞的科學家的話，這個答案就很簡單。

但HAI有個層面是，我們不要求每個人的科學追求都是符合社會道德，這個平台聚集很多不同的人、不同的學科、不同的想法、甚至不同的社會角色，共同探討AI這個21世紀重要的新興科學。

我們並沒有要規範道德準則、道德價值觀，而是在鼓勵不同的聲音對話，這樣的探索至關重要。

作家會被AI取代嗎？

龍：如何跟卡車司機溝通，AI不是來取代你，而是會影響你生活中的很多個面向？

李：全球在討論AI取代人類的時，經常會說司機會被取代，甚至有人說醫生會被取代。我很想問妳，作家會不會被取代？妳最近有沒有焦慮？

先說卡車司機會不會被取代，自駕車感覺是指日可待的科技。我想先談，你們知不知道美國大概有300萬卡車司機，他們平均壽命很短，因為長期在外面奔波。如果我能和司機對談，我想跟他們說，我希望你們每天晚上回家吃飯。

因為自駕車科技，大量、跨州的長途跋涉可以被電腦取代，但是最後一哩路的物流、突發路況，甚至組裝、卸載周邊的工作會成為重要的部份。也許這個工作類型不會消失，但是他們工作型態會改變。（延伸閱讀：Appier首席AI科學家孫民：你不會被AI取代，但會被懂得用AI的人取代）

大家記得10幾年前日本核洩漏事件，最後需要人類去處理。我作為AI科學家，看到這個新聞，我的第一個反應是這是AI該做的事情。

當機器人變得足夠智慧時，應該取代人類去做這些危險的工作。

那麼作家會被AI取代嗎？

AI影響人類生活，生產大量書寫內容變成容易的事情。（Shutterstock）

龍：我以前寫英文的文章，大概需要花同樣的時間修改文法，讓句子更好看，但我發現用ChatGPT一下就完成了。但，我一篇文章放在AI後，我有強大的不安，因為我的文章變成標本了，被吞掉了。

李：我見過的五年級的小朋友，都希望AI可以幫他們寫作業。如果我把妳所有的書，拿去訓練成龍應台GPT，我用這個GPT寫一本關於貓的書，妳會擔心嗎？
 
龍：我發明了一個說法：BOFA，來回答這個問題。

首先，AI是有邊界（Boundary）的，比如我問AI如何謀殺我丈夫，或是如何自殺，它會有法律問題，所以AI必須謹守這個規範。文學恰恰相反，文學如果有規範，就稱不上真正的創作。

其次，AI的訊息是大數據整合而來，它是一般性（Ordinary）的回答，是最大公約數的內容，但好的作家不可以從事一般性的創作。

第三，AI沒有感覺（Feelings）。我有一次在德國法蘭克福看一個藝術展，它有一百個眼淚形狀的玻璃，這是來自一百個人的眼淚。我想著，這是眼淚嗎？如果把一滴水的成分，水加鹽調配和眼淚相同，那滴水是眼淚嗎？我認為，AI並是沒辦法取代眼淚（意旨感覺）的。

第四，最後是AI是一個工具，可以擴大你能力的工具（Augmentation），但AI不是你的心，文學絕對是你的心。
 
李：針對妳的BOFA，我想說。

今天的AI確實有邊界。但如果技術落在壞人手上，邊界就不存在了。

但妳說一位好的作家，要做到獨特性（Uniqueness）和感覺（Feelings），這我無法反駁，因為作為科學家，我不知道如何寫作。

關於AI有沒有意識（consciousness），這是一個全球的大命題，但是目前為止，站在算法的角度，沒有任何證據顯示AI是有意識的；但是會不會有一天AI會擁有意識，我認為這是不能斷言的。

關於作家會不會被取代，還有另一個可能性是，就是AI寫大量的書，導致妳寫的書沒人看了？

龍：這個早就發生了。

李：如果有天AI大量寫書，迎合市場的口味，作家這個職業怎麼辦？

龍：這個不需要AI，因為有些作家認為自己的作品寫了20年很紮實，但眼睜睜看著其他人寫不到20天出的書，賣比他多100倍。

AI讓人類被挑戰教育的意義

龍：我也想談教育，因為教育是透過語言教育來學習，其實現在的大語言模型對教育帶來很大的衝擊。妳是因為教育者，也是媽媽，妳怎麼看？

李：我認為要把AI看作是一個工具，透過AI查資料、了解世界。

但當AI能力變得很強時，我們該反思，孩子們在學校裡學習的目的是什麼？

我認為不管AI多麽強大，教育的目的還是人，AI的時代裡，最重要的還是人。也許這場AI帶來的衝擊，可以讓教育者有更深刻的自省。

當電腦可以輔助我們的時候，我們希望孩子透過教育得到什麼？對我來說，最重要的是人的核心、同理心、智慧和創造力。

龍：我最擔心小學生從三、四年級開始寫作文這件事，寫文章其實是思想訓練。錢穆先生、我們稱為國學大師，他26歲時，在大陸江南當小學老師。他把學生帶到松樹下，教他們聽風吹過松樹，聽風吹過松針的聲音，學習寫作文。他教學生如何欣賞美，體會人和大自然的關係，以及如何把感覺、思想變成文字。

李：這跟AI已經無關了，而是教育是什麼？很多教育都是填鴨式做法。我認為或許AI是好事，人類被挑戰了，它逼迫大家自省，教育是什麼。（延伸閱讀：紐約、香港學校禁用ChatGPT　台灣教授為何大膽帶進校園？）

龍：你的意思是不該輕易地把問題歸咎AI，而是應該思考教育的本質。

李：AI沒有自我意識、自由意志。

AI指的是一行行的程式碼，它既不思考，沒有目的，也沒有情緒，所有的問題和希望都在人類身上。

（責任編輯：宋玟蒨）