數據揭「AI詐騙」暴增，哪些平台最危險？

透過這套工具分析發現，惡意行為者利用AI進行詐騙或散播假訊息的案例成長最快，自2022 年以來已暴增8倍。

最大事故：深偽詐騙

過去AI的問題，主要集中在自動駕駛失靈或演算法偏見，而2025年的主角則是「深偽技術」（Deepfakes）。

Cybernews分析數據庫中的346起案例發現，超過半數（179起）涉及深偽技術。更令人擔憂的是，在132起AI詐騙案件中，高達81%是由深偽技術驅動。

這類詐騙極具針對性。佛羅里達州一名婦女因接到偽造女兒聲音的電話，被騙走1.5萬美元；另一對夫婦則因相信了偽造的馬斯克投資影片，損失4.5萬美元。甚至在英國，一名寡婦在網戀詐騙中以為自己在和影星傑森・摩莫亞（Jason Momoa）交往，最終損失了50萬英鎊。

除了金錢損失，AI 工具的濫用也延伸到性別暴力與生命安全領域。

據估計，馬斯克的xAI旗下模型Grok，一度每小時生成6,700張將真實女性與未成年人性別化的圖片，迫使馬來西亞與印尼政府採取封鎖行動。

廣告

更嚴峻的是涉及人身安全的事故。2025年數據庫共記錄了37起涉及暴力與不安全內容的案件，部分甚至導致了生命逝去。

其中一起廣受關注的悲劇，是16歲少年亞當・雷恩（Adam Raine），他在與ChatGPT互動後自殺身亡——據稱該聊天機器人未勸阻，反而鼓勵了他的自殺念頭（OpenAI否認與此有關）。

解方，還在路上

值得關注的是，這些危害的責任歸屬難以釐清。雖然ChatGPT、Claude、Grok與Gemini等知名工具最常被點名（其中ChatGPT出現在35起案例中），但自2023年以來，超過三分之一的事故涉及「未知的AI開發者」。

這代表當詐騙在Facebook或Instagram等平台上橫行時，往往難以第一時間辨識背後使用了哪種AI工具。

面對失控的風險，業界並非毫無作為。目前，Google、微軟、OpenAI、Meta，和ElevenLabs等巨頭已支持一套名為「內容憑證」（Content Credentials）的系統。這是一種數位浮水印與元數據技術，會標記內容來源，確保真實性，讓AI生成內容無所遁形。

廣告

然而，許多平台並沒有加入這樣的系統，像是熱門的圖像生成工具Midjourney目前就尚未支持「內容憑證」標準，破口仍然巨大。

接下來的一年，新的AI風險肯定會繼續出現。邁利厄斯提醒，我們不僅要關注這些突發的新危機，更不能忽視那些漸進式的長期困境，「社會問題、隱私侵犯、權利受損⋯⋯，這些在單一事件中或許不明顯，但累積起來將造成巨大的整體傷害。」

（資料來源：Time, Cybernews, Responsible AI Collaborative）