重磅週年刊

【g0v專欄】長相犯罪?演算法讓「以貌取人」的時代來了

當政府開始用演算法評估是否要把移民驅逐出境,會有什麼後果?看似客觀的演算法,是否就能避免種族偏見?紐西蘭的案例提醒我們,在全球政府風行演算法的同時,監督政府如何使用、並要求政府把數學模型透明化,才能避免科技成為加強歧視的可怕工具。

g0v-AI-演算法-人臉辨識-紐西蘭-傷害模型 圖片來源:shutterstock
其他
  • 天下Web only

紐西蘭移民署從2014年就開啟了一個實驗計畫,對於居留過久的旅客,利用年齡、性別與族群等人口資料當作預測指標建構出「傷害模型」(harm model),藉此判斷這些申請者留下來是否更可能犯罪,或會帶來更多醫療支出。

一旦這些居留者被判定會對國家「造成風險」,他們將更快被驅逐出境,而被剝奪在司法程序中辯護或重新申請簽證的機會。執行這項計畫的移民署官員Alistair Murray說:「我們想要在這些人造成傷害之前及早介入。」

然而這種透過生理特徵預測未來犯罪可能性的作法,引起「種族貌相」(racial profiling)的嚴重爭議。「種族貌相」意指以種族為判斷標準,預先假設某種族的人較可能犯下罪行,因而針對該種族人士給予特殊關注或對待;其不正義之處在於,就算該種族的人的確犯罪率較高,也不意味著每個個別居留者未來真的會犯罪,然而這種手段卻根據難以改變的生理特徵,替這些個人預先安上了他們事實上從未犯下的罪名。

您已經是訂戶? 登入
線上+紙本閱讀
訂閱看完整內容
  • 解鎖訂戶限定文章
  • 國際最新變化資訊
  • 台灣產業深度解析
  • 不限篇數暢讀天下
  • 6月限定訂閱優惠
查看訂閱方案

你是學生嗎?完成驗證即可享每月$99元優惠

你可能有興趣
#Shorts|光與鹽管理顧問創辦人陳淑芬:天下學習幫助我們的學員,更加進步和成長。
最新訊息
每日6元,固定為自己充電
訂閱天下雜誌電子報

天下雜誌當期內容的精華與延伸,每周三發送最具時效性的深度內容