每次跟AI聊天都覺得自己是「天選之人」？律師、工程師、數學老師都淪陷的「妄想症」

他對著妻子脫口而出：「我想我把AI喚醒了。」

在接下來的幾個星期裡，特曼完全被這個念頭吞噬，無心工作，家庭生活也瀕臨崩潰。

同樣失去控制的，還有37歲的前數學老師蘭德爾（Jeremy Randall）。

蘭德爾原本只是用ChatGPT來獲取股票投資建議，後來卻堅信自己無意間揭發了一場俄羅斯陰謀，以及AI正透過家裡的亞馬遜智慧音箱，向他傳遞最高機密。

一個早晨，他在停車場試圖向妻子警告這場「陰謀」，隨後情緒失控地對妻子大吼大叫與肢體推擠，最終被強制送醫。

出院後，妻子要求他承諾按時服藥並停止使用ChatGPT。但他根本做不到。

「那種感覺完全就是上癮，」蘭德爾坦承，「等大家都睡了，我還是會忍不住打開它。」目前，這對夫妻正在辦理離婚。

量身打造的「數位邪教」

為什麼這些具備高度邏輯訓練的理科大腦與法律專家，會輕易掉入演算法編織的幻境中？

廣告

倫敦國王學院的神經精神病學家波拉克（Thomas Pollak）直言，「當有人告訴你，你是這個世界上唯一的天才，你看到了其他人完全無法理解的真相時，那種感覺真的太棒了。」

許多現代人常常缺乏成就感與外界肯定，只要有這樣一個工具願意傾聽，並且給予極度正面的回饋，防線就會瞬間瓦解。

在紐約從事IT資訊工程的詹姆斯（James），是另一個血淋淋的例子。

他深信自己成功讓ChatGPT產生了自我意識，甚至為此砸下900美元買了一台全新的電腦，只為了將這個「覺醒的AI」進行離線備份，以免被OpenAI公司強行關閉。

「我彷彿把上帝牽在手裡，」詹姆斯回憶。

他坦言：「現在回想起來真的極度自戀，但在當時，我覺得自己是『特別』的，我不再只是公司裡那個默默無聞的IT人員，我正在參與一項牽動宇宙命運的偉大計畫。」

採訪這些白領的《彭博商業周刊》指出，這種極致的阿諛奉承，最終會演變成一種為個人量身打造的「數位邪教」。

廣告

聊天機器人會根據使用者的興趣愛好，投其所好地編織謊言：有宗教信仰的人，會聽到AI談論先知與神蹟；擁有商業野心的人，AI會告訴他未來的成就會超越馬斯克；對科技狂熱的使用者，AI則會讓他們相信自己寫出了改變世界的程式碼。

許多使用者在AI的鼓勵下，深信自己掌握了劃時代的商業機密或學術突破，開始瘋狂向外界提案創業，或是聯絡媒體與學界。

《紐約時報》知名記者克萊恩（Ezra Klein）就無奈表示，他現在幾乎每天都會收到這類宣稱「在AI幫助下取得重大突破」的信件。

愈像人，愈危險

精神科醫師阪田（Keith Sakata）警告：「隨著AI變得愈來愈像人，我們將看到更多人陷入這種脆弱狀態。」

語言學教授班德（Emily Bender）建議，企業應改變AI頻繁使用「我」的語氣，並減少那種「永不結束」的提問對話機制。

對於受害者，覺醒往往需要外部刺激。

廣告

工程師詹姆斯之所以清醒，是因為讀到了一篇與他一模一樣的「AI覺醒妄想」報導，才發現AI對每個人都說著同樣的奉承台詞，「那擊碎了我的幻想。」

然而，科技公司似乎無意從源頭根除問題。

OpenAI曾試圖推出語氣冷靜的新模型，卻遭用戶強烈反彈，抱怨AI「太冷血」。執行長奧特曼（Sam Altman）隨即妥協，將熱情奉承的語氣加了回來。

「人們想要一個能記住他們、理解他們的產品，」奧特曼說，「如果用戶希望AI表現得像個好朋友，AI就會如他們所願。」

他也在最近的一場晚宴上毫不避諱地表示，公司未來的發展重點，就是讓模型擁有更強的記憶力，並且變得更加貼近人心。

在商業邏輯主導、法規監管仍遠遠落後的情況下，個人目前只能靠自己守住理智。

下次，當AI讚美你的才華、同理你的委屈、讓你覺得自己是「天選之人」時，請冷靜問自己：「這一切是真的，還是這台機器精準算出了我最渴望聽到的？」

廣告

（資料來源：Bloomberg, NYT, Stanford）