科技發展通常是兩面刃，過去兩年大模型與生成式AI遍地開花，除了開啟許多從前無法想像的應用，也帶來不少令人頭痛的問題。
其中，深偽（Deepfake）就是一個人類社會已經開始面對，且將日益艱難的挑戰。
目前深偽影片技術還未成熟，但AI模仿特定個人的聲音，已經快要真假難辨。
當這個技術被利用在政治、社會相關新聞的假消息產製，再加上社群媒體的放大效應，對選舉、民心、文化都會有很大的影響。
在台灣，日前流出某總統候選人批評對手的58秒音檔，而後被調查局認定高度可能是深偽。在美國，抖音上一則超過5萬次觀看、長達3分鐘的類新聞報導影片，其中包含歐巴馬否認涉案自家廚師之死的發言，以及整個影片中報導的主播聲音，都被發現是AI偽造。
事實上，研究發現，這影片由一個專業的假消息擴散組織發布，它旗下管理的17個抖音帳號，光是今年6到9月間，就發表了高達5000支影片，其中許多使用AI仿造人聲。而這些影片共得到高達3.36億次觀看，以及1450萬個讚。
另一支報導夏威夷茂宜島大火，稱該災難是人為科技武器造成，且脫口秀主持人歐普拉在島上價值數億台幣豪宅毫髮無傷的影片，獲得超過56萬次觀看。
此外，該組織還發表了歐普拉參與性交易、奧斯卡影帝傑米福克斯因施打疫苗而癱瘓、喜劇演員瓊瑞佛斯因指稱歐巴馬是同性戀而遭到謀殺等深偽影片。
換言之，AI人聲仿造，讓假消息產業鏈有如神助，認知作戰的殺傷力因此大大升級，也讓防守方更難抵禦。
在系統性解決方案普及前，我們只能依賴個人。往前走，我們必須意識到，自己隨時都可能是認知作戰的受害方。
在閱覽資訊時，更勤於確認最終來源，即便是透過信任的朋友分享、或是主流媒體報導，如果最終來源不熟悉，或是感到該訊息可疑時，都必須動手查證，且未經確認前不隨便分享。
若查證後發現親友被假消息矇騙，則要馬上提醒他們，並協助他們學習分辨真假訊息。這場戰爭才剛開始，我們必須努力別被打敗。（責任編輯：王儷華）
天下總主筆陳良榕專欄。半導體狂熱、科技巨頭謀略的最犀利解讀
看懂科技大勢，獨家解讀
請查看您的信箱，我們將寄送驗證信給您，確保未來信件會送到您的信箱
