該監管AI嗎？史丹佛人本人工智慧研究中心負責人：看看失控的社群媒體

如今人工智慧仰賴的技術，逐漸轉向神經網路與大數據，而非邏輯，我仍十分關注，尤其好奇它對人類帶來的正負面衝擊。

當我還在思考該採取什麼行動時，2016年夏天，我在李飛飛家的車道上與她閒聊，她給了我靈感。

她告訴我，我在教務長任內推動「數位人文學程」等計劃，為人文領域注入科技的技術與精神，幫助人文學者創造新的研究與方法論。

如今AI蓬勃發展，是時候畫個反向箭頭，將人文與社會思維帶回科技，以完成一個完整迴圈。

從該理念出發，我們一起創立了HAI，核心倡議是所有AI新技術的開發與應用，都應該以人為本，而非一味求新求變。

因為當一項技術強大到無處不在時，必須深入思考它對個人、社會乃至整個文明的影響，並且努力引導到正確方向。

及早因應，防止如社群媒體失控

如果來自政治、經濟、社會學等不同領域的人文學者，能與技術開發者並肩討論，將盡可能避開傷害，共同為人類福祉努力。

廣告

殷鑑不遠。在社群媒體發展早期階段，世人並未充分考慮它對社會的負面衝擊，錯失審視與管理的機會，以致衍生出假訊息和網路霸凌等問題。

如果有機會重新做一次選擇，落實實名制也許是個好方法。

回頭檢視AI，我期待新科技的發展路上，有更多思辨與監管，讓人類在未來不會感到後悔。

疑慮並非空穴來風，許多問題已浮現。大型語言模型（LLM）潛藏的種族歧視與刻板印象，對少數族裔帶來傷害。更嚴重者則涉及人命，如兩伊交戰期間，美軍的神盾戰鬥系統曾因誤判而擊落客機。

這些案例都是一次次示警，儘管AI在某些方面能大幅提升工作效率和精確度，仍藏存許多無法預測的風險。

商場慢不下來，大學應適時牽制

我想強調，我並非主張停止AI的發展，而是希望社會能投注更多心力，仔細地權衡不同人工智慧的應用。

這比喻聽來雖然陳腔濫調，但對我而言，AI如同電力一樣，是改變人類生活的技術變革，我們不可能拒絕電力。

廣告

電力普及帶來了痛苦與進步，如負責點亮煤氣燈的人因此失業，電力卻同時為城市帶來光明。AI也是如此，不同的AI應用帶來好壞不一的影響，值得好好評估，而非籠統地一概而論支持或反對AI。

HAI舉辦大量研討會與演講促進跨域交流，記者造訪當天，巧遇Google研發長諾米格（右）與心理學家馬庫斯（左）對談。（Mike Kai Chen攝）

當然，技術發展不等人，我們雖然抱著美好憧憬，主張開發者能夠停下來想想AI可能為社會帶來的衝擊後再出發，然而商場如戰場，所有人仍因為怕落後而抱頭開發，很難有餘裕停下來思考。

馬斯克等科技巨頭曾連署，倡議AI研發應暫緩半年，後來以失敗作收，更遑論學者發聲。

但我們不氣餒，仍期待大學能發揮一定影響力，為AI研發帶來不同聲音。為此我們透過媒體投書等管道向政府呼籲，大學沒有資源發展出像企業那般完善的大型語言模型，但至少應有能力做基礎研究，為技術發展提供建議。

廣告

慶幸的是，政府採納我們的建議，通過立法創立「國家人工智慧研究資源」（NAIRR），今年1月開始運作，我們已獲得部份資金支持，這是一個好的開始。

基礎課融入倫理，思考道德兩難

我們同樣在校內做出努力。

史丹佛有許多修讀電腦科學的學生，如果他們在校期間就具備倫理意識，未來無論是創業或到Google、Meta等科技業任職，不會只關注如何提高收入與獲取消費者注意力，更能夠思考技術帶來的潛在社會影響。

為此我們推動一系列「嵌入式倫理」（Embedded Ethics）課程，在基礎的電腦科學中納入倫理討論。

如在「人工智慧：原理與技術」這門課中，教學團隊設計了與海平面上升相關的作業，學生在建立預測與因應模型的過程中，會發現採用不同因應策略，會將對不同人帶來衝擊，藉此讓學生思考，光是建模這件事就牽涉道德兩難。

課程上路不久，我還無法評估為學生帶來的影響，但期待這些思辨成為種子，在他們心中發芽茁壯。

廣告

大學的價值：訓練學生應變能力

具備倫理意識外，我同時期待所有自史丹佛畢業的學生能具備靈活的應變能力，這是面對未來最需要的核心能力，而大學是最好的訓練場所。

我看待大學的方式有點另類。大學不只是授予知識的場所，還是磨練學生的「練功場」。

綜觀學生在大學度過的4年時光，會修讀大約45門課程，這些課程要求學生掌握不同技能，教授們會用不同方式評估學生表現。

學生可能得在數學課獨自完成一道題目，在寫作課撰寫一篇英文文章，或者與同學合作完成一次口頭報告等，他們必須迎接各式挑戰並試圖脫穎而出。

換個角度想，這些課彷彿不同職場，學生都在面對不同老闆的要求，並試圖端出最好的作品。如此算來，45門課就是45次訓練，學生如果能認真學習，無形中就能掌握應對萬變的軟實力。

我相信，這份能力能伴隨他們的一生，也會成為面對AI最重要的素養。

（雜誌原標題為：早一步監管AI發展  讓人類未來不後悔／責任編輯：王儷華）

【更多精彩內容，請購買《天下雜誌》811期：2024教育特刊「AI時代，怎麼學？」單本即享免運】