就像是科幻影集《黑鏡》真實上演，美國一些議員辦公室，本週開始接到來自死去的孩子的電話。
「我是德州猶瓦爾迪小學的四年級學生。一名攜帶AR-15槍枝的男子進入我的學校，並殺死了我的18位同學、兩名老師和我。」
「那天我死在帕克蘭，我的身體被戰爭武器摧毀了。」
這些聲音的主人，都是各起槍擊案的受害者。他們的語音被父母製成電話內容，放在「The Shotline」網站上。在美國的使用者可以輸入自己所在的郵遞區號，點擊發送，這些語音就會自動撥打電話到當地立法者辦公室。
網站是由其中一名受害的男孩賈金（Joaquin Oliver）的父母推動，他們希望這樣的倡議，能使美國政治人物關注槍枝管制問題，並進一步修改法律。
網站本週才上線，累積一天，已經有破萬通電話打到議員辦公室。
「這是美國的問題，我們無法解決它，」賈金的父親曼尼（Manny Oliver）表示，出於挫折與無奈，才想出致電的方式。他說，如果推動法律改革需要使用令人毛骨悚然的方式，他們很樂意這麼做。
逝者聲音如何復活？
這些令人震驚的真實聲音，是由科技公司ElevenLabs的AI語音產生器創建的，它們的逼真程度讓人完全聽不出來是機器製造。
聲音是從孩子們的家庭影片擷取，雖然這些影片經常很嘈雜，但生成式AI的精湛技術已跨越這些問題。現在，只需要幾秒種某人的音訊檔案，就可以創建近乎完美的聲音。
ElevenLabs是一家成立兩年的新創公司，最近在Andreessen Horowitz領投的一輪融資中募到了8000萬美元。
聲音的真實程度，連家人都無法辨別。當受害者母親們聽到兒子的AI聲音時，「我放聲大哭，」「這和他一模一樣。」她們告訴《華爾街日報》。
近年，已經有愈來愈多企業踏入重製逝者聲音或影像的服務。像是HereAfter AI和Project December。一家公司You, Only Virtual，甚至可以讓逝者與生者對話，透過生前累積的巨量訊息資料模擬機器人。
然而，在涉及政治倡議的情況下，決定這些聲音該說什麼，可能是一個道德難題。
該怎麼知道一個已經不在的人會有何感受？生者如何知道他們願意或不願意分享什麼？
被代言的道德問題
與其他AI應用一樣，人們對人工智慧應用的一個擔憂是：它可能會被用來造成傷害。想像這些孩子的聲音被用來傳播假訊息或仇恨言論。
美國聯邦通訊委員會甫宣布，使用深偽音訊撥打自動語音電話，屬於非法行為。
（主要因為幾週前，新罕布夏州的選民接到冒充總統拜登的電話，告訴他們不要在該州的初選中投票。 ）
不過，在評估Shotline時，一些AI專家認為這在道德上無虞，因為這些資訊並沒有試圖誤導任何人，每一通致電議員的電話都附註說明了聲音是由AI製作的。
「這不是一個負面的案例，」加州大學柏克萊分校專門研究數位虛假資訊的教授法里德（Hany Farid）說，只要父母不試圖欺騙，那麼這是生成式AI的強大展現。
但一些專家持不同看法。AI公司Hugging Face的全球政策主索萊曼（Irene Solaiman）告訴《NPR》，「去代表失去生命的人有危險，因為控制這種代表權可能不僅僅掌握在親人手中，」
「我們沒有真正界定誰是控制代表權的合適人選，以及這種控制權是否該由開發商、企業或生成聲音內容的人負責，」索萊曼總結。
目前，許多在意這個議題的人——通常是名人——已經在遺囑中聲明自己音訊的權利。
至於其他面向的應用，預期爭議只會不斷擴展，法規探討也將永遠是個話題。因為AI模仿一個真人的技術只會益發強大。
「科技將繼續發展我們慶祝和哀悼那些不再存在的人的方式，如果你認為今天的情況太瘋狂，請再等幾年，」長期關注AI深偽議題的《華爾街日報》記者斯特恩（Joanna Stern）寫道。
（資料來源：WSJ, NPR, MIT, Engadget）
天下總主筆陳良榕專欄。半導體狂熱、科技巨頭謀略的最犀利解讀
看懂科技大勢，獨家解讀
請查看您的信箱，我們將寄送驗證信給您，確保未來信件會送到您的信箱
