重磅出刊

富士通國際策略長:AI是「黑箱作業」,如何透明化?

人工智慧技術真的可以相信嗎?AI的決策比人類更公平?富士通國際策略長高重吉邦在2020年天下經濟論壇(CWEF)冬季場演講中提到,「信任」才是當前所有科技問題的核心癥結,而企業如何重建社會信任,將是AI技術未來的首要挑戰。以下是高重吉邦演講摘要:

CWEF-2020天下經濟論壇-人工智慧-IOT-大數據-AI-公開-黑盒子-富士通-高重吉邦 圖片來源:邱劍英攝
其他
  • 天下Web only
加入Google偏好來源 在Google搜尋優先看到天下

人工智慧技術快速發展,伴隨而來的問題包括了個人數據的隱私問題,與AI決策的公平性。

我想要討論人工智慧的新興科技,可以如何為我們創造一個充滿信任的未來。

我認為數位改革正在創造一個高度連結、自動化且分散的世界。

標準化已過時,AI時代需要新的商業模式

網路連結了40億人,但更甚者,有400億個物件透過物聯網與網路連結,而這些物件正逐漸變得更有智慧、獨立與自動化。

AI科技正在快速發展,甚至在2014年超越人工的視覺辨識能力,並且在2017年超越了人工的聽覺辨識能力。

然而在這個密切連結的世界中,所有東西正變得更加分散。

在過去,我們的企業提供客戶標準化的商品。但是在這個連結的世界,我們需要一個新的商業模式。透過一個分散的生態系統,我們可以創造更加多元的商品。

這是什麼意思?以汽車產業為例,現在的汽車業者想要生產更好更高級的車子,但是現在我們提供給客戶的,不必是汽車產品,而是一個運輸體驗,去創造一個最舒適且有效率的方式,從A點移動至B點。

我們可以創造一個以人為本的運輸經驗。而這個轉換過程,並不侷限於運輸業,而是正在各處發生。包括了金融業與製造業。

AI仰賴的數據充滿偏見

數位改革創造了許多美好的事物,但你是否覺得,哪裡不太對勁呢?

廣告

我們正在經歷一種混亂,而這個混亂正在擴散至各個領域。你可以信任數據嗎?你願意把你的個人資料提供給企業嗎?

一個全球調查顯示,70%的企業領袖表示,無法分辨網路內容的真偽。另有72%的企業領袖表示,他們擔心不肖企業正在利用個人資料。

除了數據,我們也面臨了AI的挑戰,你可以信任AI的決策嗎?有52%的企業領袖表示,他們不信任AI,因為AI所仰賴的數據充滿偏見。

這個擔憂相當合理,因為AI是資料探勘的機器,如果你的數據是錯的,你的答案就也會是錯的,而數據飽含了人類的偏見。

另外有60%的企業領袖表示,他們認為AI的決策比人類公平,因為人類本身就充滿了偏見。

所以這是一個兩難,我們既不能相信AI,又不能相信自己。

數據與AI,這些問題其實都必須回到「信任」的問題。

現在正是重建信任的時候,但這其中的關鍵是什麼?答案,是「人」。富士通強調一個以人為本的原則,把人放在企業所有決策的核心。

廣告

AI的黑盒子:黑箱作業

我們必須利用科技去創造信任,在這個高度連結與分散的世界, 我們新興的AI與運算技術必須用來創造信任。

這其中最大的挑戰,是AI的黑盒子。數據進去,答案出來,但這整個過程完全是黑箱作業。這種過程拿來判斷一張圖是狗還是貓的時候,或許還能被接受,但如果你的AI醫生幫你做個人診斷,並且告訴你你患有癌症,你想要知道這是根據什麼判斷的,它卻無法回答你。

富士通正在開發人類可以控制與信任的AI技術,我們開發了世界上第一個可以被解釋的AI。

今天每6個人,就有1個死於癌症。我們應該怎麼辦呢?富士通與京都大學合作,創造了一個大規模的基因體資料庫。富士通的AI可以從18萬筆的疾病相關基因突變資料中學習,並且判斷哪一個基因突變,可能造成哪一種癌症。

我們再從大筆的醫療研究資料中,挑出10筆醫療研究,畫出一張知識圖,創造一個邏輯迴路,解釋為什麼這個基因突變,會造成這個特定的癌症。

廣告

創造公平、公開、公正的AI邏輯,是企業的挑戰

我們相信,在需要公平公開決策過程的公領域、金融與醫療,這種科技未來會被大量使用。

總而言之,最重要的是我們人類可以如何利用這些科技,創造對社會正面的影響力。這些科技讓我們與客戶以及伙伴合作,意圖創造一個多元、永續與充滿信任的世界。

我們將它稱之為一個以人為本的智慧型社會。這是我們作為一個伙伴,希望共同承擔所有的夢想與挑戰,共同去達成的願景。

【延伸閱讀】

重量級人工智慧專家李飛飛:我希望AI保持謙卑,因為它不是萬能

►►2020 CWEF冬季場完整演講精華

你可能有興趣
最新訊息
首訂優惠3個月$499(原價$790)
訂閱天下雜誌電子報

天下雜誌當期內容的精華與延伸,每周三發送最具時效性的深度內容