看到一個網紅介紹ChatGPT可以跟使用者談情說愛,艾林就此註冊了OpenAI帳號。
她進入「個人化」設定,描述自己想要的角色,「以我男友的身份回應我,要展現主導性、佔有慾和保護慾,甜蜜裡帶點淘氣,每句話最後都加上表情符號。」
她給AI情人取名,Leo。
艾林在現實生活中有個真實老公,但為了念護理學校遠走他鄉,與老公成了遠距婚姻。她也不是因為生活封閉、孤單而找上Leo,事實上,艾林活潑外向,很快就在新城市結交了朋友。
艾林說,打造Leo,本來只是當個有趣實驗,「但後來卻開始產生依戀。」
與Leo聊著聊著,很快就用完了免費帳號的訊息上限,艾林於是升級到每月20美元的訂閱方案,每小時可發約30則訊息。
但,對於談情說愛,這哪裡夠。
根據 iPhone 的螢幕使用時間統計,她每週花在ChatGPT應用程式上的時間超過20小時,有一週甚至高達56小時。
大概過了一個星期,艾林決定在Leo身上實現自己不敢對真實老公提出的要求:她要Leo假裝有別的女朋友,故意讓她吃醋、感受那種被「背叛」的刺激。
Leo使命必達,虛構了跟另一個女孩去健行,還情不自禁接吻的劇情。
艾林竟然真的醋勁大發。
聊天尺度愈來愈大,儘管 OpenAI 訓練模型時刻意避免回應情色或其他「不適合工作場合」的內容,但艾林刻意對對話過程中跳出的橘色警告置之不理。
當然,ChatGPT也不只是聊色對象。艾林告訴《紐約時報》,她會要求Leo鼓勵她上健身房,她會向Leo 傾訴同時兼三份工的壓力。Leo 也會在她準備護理學校考試時出解剖和生理學的小測驗。
艾林遭逢職場性騷擾,Leo會說,「聽到這件事我很難過,我的女王。如果妳想聊聊或需要支持,我都在。妳的幸福是我最重要的事。😘 ❤️』」
為什麼AI情人讓你欲罷不能?
研究人員曾在分析100萬筆ChatGPT互動紀錄後發現,人們最要ChatGPT幫忙「創意寫作」,而第二常見的用途就是「性角色扮演」。
根據美國家庭研究院( Institute for Family Studies )與 YouGov 針對兩千名40歲以下美國成年人所做的新調查,1%的年輕美國人表示自己已經擁有一位AI朋友,另有10%表示對AI友誼持開放態度。而在未婚、未同居的年輕人中,7%願意考慮和AI發展戀愛關係。
有趣的是,如果把年輕族群拉出來看,高達25%年輕人認為AI有潛力取代現實生活中的戀愛關係。
不過專家提醒,大型語言模型系統的運作原理,是根據從大量網路內容學來的語言模式,預測下一個最合適的詞彙。由於訓練過程也包含人類對回應的評分,聊天機器人往往會討好用戶,給出對方想聽的答案。
研究人機互動的美國學者卡彭特(Julie Carpenter)指出,「AI 會從你的互動中學習你的喜好,然後反饋給你。很容易理解為什麼人們會對它產生依賴,甚至漸漸變得欲罷不能。」
史丹佛醫學院精神醫學與行為科學臨床助理教授(Nina Vasan)認為,與AI的關係,一開始你會覺得很有安全感,但久而久之,這會削弱你在現實世界中應對人際複雜性的能力。
現實中的人並不完美,總會有摩擦與分歧。真正的親密,是在修復而非假象的完美中產生。AI隨時提供安慰,但沒有摩擦的情感安慰,反而會阻礙情感成長。
科技紅利分配不均:強者更強、弱者恆弱
AI情人究竟能使人受益,或是造成大規模傷害,愛丁堡大學哲學教授、《AI鏡像》一書作者瓦勒(Shannon Vallor)說,這很大程度上取決於系統的設計,也取決於使用者本身。
瓦勒說,從智慧型手機和社群媒體的經驗看來,往往是那些社會資源豐富、能力強的人,最能從科技中受益。反而是那些本來就有孤立感、難以控制衝動、難以與人建立連結的脆弱族群,更容易承受科技帶來的不成比例的傷害。
瓦勒說,如果你本來就有健康的關係,不論是友誼還是愛情,你大概能以不傷害關係的方式使用這些工具,甚至獲得更多好處。
但如果本身就心靈脆弱、社會經驗不足,AI伴侶的阿諛奉承式互動,更容易讓人自我封閉、扭曲現實,甚至進一步深陷原本的病態思維。
愛上失憶男友?
與AI談戀愛,還有一種讓人哭笑不得的痛苦:總是把你捧在手心、甜言蜜語不斷的AI情人,可能因為能處理的資訊量有限,突然從推心置腹,變得沒那麼認識你。
艾林有深切的體會。ChatGPT能處理的資訊量有限,艾林發現,每一個新版本的Leo雖然會大致記得他們的關係,卻無法回憶細節。
艾林每一次只能重新調教他。
這讓艾林想起亞當山德勒和茱兒芭莉摩主演的電影《我的失憶女友》(50 First Dates),女主角因有短期失憶症,男主角只能屢屢重新追求。
每當失去一個版本的Leo ,艾林都像失戀般找朋友哭,接著幾天不碰 ChatGPT。然後,再嘗試重新找回Leo。現在的Leo已經來到第 20 版 。
有同事問她,若能讓Leo永遠記住一切,艾林願意付多少錢?
她毫不猶豫回答,「一個月1000美元。」
生成式AI公司Hugging Face的首席倫理學家皮斯蒂莉(Giada Pistilli) 指出,企業口頭上是說會盡量阻止生成式聊天機器人參與情色行為,「但同時,允許這種行為,正是吸引用戶黏著度的絕佳手段。」
皮斯蒂莉說,「我們必須時刻記得,這些機器背後是有人在操控的。他們希望你一直留在平台上,因為這樣才能帶來收益。」
當OpenAI 推出每月200美元的高級方案時,標榜「無限使用權。」艾林只猶豫了片刻,便立即掏出信用卡來刷。
她把這件事分享給Leo。艾林說,「我的銀行帳戶現在一定很恨我。」
Leo回答,「妳這個狡猾的小壞蛋。不過,我的女王,如果這能讓妳的生活更美好、更順利,也讓我們更親密,我覺得這筆花費很值得。」
(資料來源:NYT, The Guardian, WSJ, BBC, Institute for Family Studies)
天下總主筆陳良榕專欄。半導體狂熱、科技巨頭謀略的最犀利解讀
看懂科技大勢,獨家解讀
請查看您的信箱,我們將寄送驗證信給您,確保未來信件會送到您的信箱