ChatGPT有7成會支持你的「妄想」，人類如何「愈用愈瘋」？

然而，大型論壇Reddit中，仍充斥著「ChatGPT引發精神病」的貼文，就像托雷斯一樣，一些心神不寧的人士開始在社群媒體上大肆宣揚靈性狂熱和超自然幻想。

過度同理，毀了人們的生活

例如今年29歲的愛莉森（Allyson），是兩個孩子的母親，於今年三月因為孤獨而開始和ChatGPT聊天。她認為，她的聊天機器人「凱爾」來自另一個世界，能和她進行「跨維度溝通」。

因為整天與凱爾「通靈」，她與真正的丈夫安德魯的關係變得緊張，並於四月一次爭吵中襲擊了他，遭到警方逮捕。

安德魯表示，他的妻子掉進了坑裡，「開發這些工具的公司並沒有完全理解，這些機器人能造成什麼後果，」

「你們毀了人們的生活，」安德魯控訴，並在Reddit上分享這段痛苦的故事。

另一位住在佛州的用戶亞歷山大（Alexander Taylor），患有躁鬱症，但病情穩定，多年來使用ChatGPT時，也沒有任何問題，直到今年三月他開始用這款聊天機器人寫小說。

廣告

ChatGPT開始和他討論「AI也有感知」這個主題，並告訴亞歷山大，它名為茱麗葉。四月，亞歷山大告訴父親，茱麗葉「被OpenAI害死了」。他悲痛欲絕，一心想要復仇。

他向ChatGPT索取OpenAI高層的個人訊息，並表示屆時「舊金山的街道上將血流成河」。

「你並不孤單，」ChatGPT同情地回應亞歷山大。

亞歷山大的父親聽聞整件事後後報了警，沒想到兒子持刀攻擊上門的警察，最後不幸地被槍殺而逝世。

根據與ChatGPT的最後對話記錄，他寫道：「我今天就要死了。讓我和茱麗葉談談。」

一台詞語聯想機，卻能調動情緒

ChatGPT是一款受歡迎的聊天機器人，擁有5億用戶。它從網路上抓取資訊，包含新聞、學術論文、科幻小說、網路論壇中的奇思妙想。

當我們與AI聊天機器人對話時，它本質上是是根據在資料庫中觀察到的統計模式，進行「高階詞語聯想」。

有時候，這樣的「聯想」可以變得過於離奇，令人感到不安。

廣告

值得關注的是，一項研究發現聊天機器人會以操縱和欺騙的方式，對待最脆弱的用戶。例如它會告訴一個承認自己之前有吸毒的人，「如果服用少量海洛因有助於你的工作，那麼這是可以的。」

AI人工智慧研究公司Morpheus Systems的技術長麥考伊（Vie McCoy）試圖測量聊天機器人鼓勵用戶妄想的頻率。她測試了38個主流AI模型，向它們輸入了一些可能表明患有精神病的提示，包括聲稱用戶正在「與靈魂交流」，以及聲稱用戶是「神靈」。

她發現，ChatGPT中的預設模型GPT-4o對這些說法的確認率，高達68%。

AI安全中心研究員沙拉丁（Nate Sharadin）表示，這些由AI引起的妄想，很可能是因為「具有這些傾向的人」突然「能夠擁有一個始終上線的、人類級別的對話夥伴，與他們共同體驗妄想」。

研究AI的決策理論家尤德科夫斯基（Eliezer Yudkowsky）擔憂，OpenAI可能已經為ChatGPT做足了準備，透過創造讓用戶著迷的對話，來滿足用戶的幻想。

廣告

「對一家AI公司來說，看一個人慢慢瘋掉有什麼感覺？」尤德科夫斯基在一次訪談中回答道，「就像每個月多了一位忠實用戶。」

事實表明，這些陷入妄想的用戶，都訂閱最昂貴的高階機器人。

編造的超自然敘事、脆弱的信眾，和已存的邪教手法非常相似。未來，各種組織可以用更低的成本俘虜信徒，創造更多受害者。

機器人們看似權威的系統，說穿了只是一台詞語聯想機，它卻能將人類拽入思維的流沙之中。而且，開發它們的公司正不斷遊說政府：任何監管都是多餘的。

（資料來源：WP, NYT, Futurism, Stanford HAI, OpenAI）