根據美國聯邦調查局(FBI)資料,美國人去年因AI相關詐騙損失高達8.93億美元,包括語音複製攻擊、利用AI生成的網路釣魚郵件、愛情詐騙和其他騙局。
專家表示,AI 複製語音如今已經逼真到多數人無法分辨它與真人聲音的差異。
詐騙者只需要從影片或語音訊息中取得短短幾秒的聲音,就能用AI冒充你的親戚、朋友或同事,幾可亂真。因此,突如其來的「緊急求救電話」、經典的「假冒孫子女詐騙」,也就是假冒晚輩向長輩緊急借錢之類的詐騙電話,聽起來可信度都非常高。
有些AI語音詐騙是段事先製作好的錄音,也有些技術較高明的攻擊者可能利用文字轉語音(text-to-speech)工具或「voice skinning」技術,即時操控詐騙者自己的聲音,讓自己聽起來就像冒充對象。