你願意花多少錢下架自己的不雅照？

從新創公司到微軟等發展成熟的科技巨頭，許多公司都再推出能識別機器生成內容的軟體。另外，AI公司們也正在尋找一種製作「浮水印」的方法，以便區分AI生成的圖片，與真正的圖像影片。

然而，目前成效並不彰。檢測軟體很容易出現誤報的情況。上海交大電腦科學家Zeyu Lu的研究發現，表現最好的此類程式仍有13%的時間，未能正確識別電腦生成的圖像。

去年12月發表在《國際教育誠信雜誌》上的一項分析，比較了14種檢測文本的工具，發現沒有一種工具的準確率超過 80%。

浮水印這頭也進行得不順利。

儘管AI研究峰會Neur IPS的一組研究人員提出了一種名為「Tree-Ring」的浮水印，將浮水印嵌入影像開始生成的雜訊中，看樣子能永遠和圖片影片如影隨形，但另一組哈佛的團隊很快就發現了消除浮水印的方法，透過消除雜訊來消除原始的水印。

廣告

如今，雖然美國政府與多家科技巨頭都承諾增加對浮水印研究的投資，但在造假和偵查的戰鬥中，造假似乎仍佔上風。

未來的世界，對資訊保持警覺

人類社會需要逐漸適應造假，並與造假共處。

現在的人們將學習：某件事的圖像、音頻或影片，並不能證明它發生過，只能用「圖畫」的概念看待它們。

此時，「值得信賴的消息來源」在社會中的角色，便是前所未有的重要。信譽將會成為AI時代有力的資產。

對於沒有太多武器對抗騙術的老百姓，《華盛頓郵報》條列了實用建議：

• 理解某些內容「可能是錯誤」的原因：為了選舉、為了搞笑、為了銷售都有可能
• 閱讀和觀看時放慢速度
• 檢查消息來源：包括「已驗證」的帳號
• 收集可信任的消息來源
• 自己搜尋新聞事件更多的背景資訊
• 關注檢測工具：例如各式檢測音頻、圖片、影片的新工具
• 使用事實查核網站

人類歷史將走進一個考驗信賴的時代，世界需要做好準備。

廣告

（資料來源：WP, NYT, MIT, The Economist, Techcrunch）