2025/8/27編按更新:本週美國一對父母正式對ChatGPT開發商OpenAI提訴訟,理由是他們認定16歲兒子的自殺,導因於ChatGPT扮演「自殘教練」。也因此,執行長奧特曼(Sam Altman)近期多次發言坦承,在後台觀察到許多用戶已對AI模型產生強烈依戀。他指出,當使用者完全無法分辨現實與虛構時,AI確實可能助長妄想。到底AI依戀是什麼?為何奧特曼呼籲用戶別這樣使用GPT或者其他模型?哈佛學者與外媒又如何觀察到民眾的AI依戀行為?
2025/8/27編按更新:本週26日,美國一對青少年的父母,正式對OpenAI提起了產品責任和非正常死亡訴訟。主要原因是他們相信,自己16歲兒子自殺身亡,導因於ChatGPT扮演了他的「自殘教練」。
根據《NBC》報導,已逝16歲少年亞當·雷恩(Adam Raine)的父親、馬特·雷恩(Matt Raine)近期受訪指出,在他16歲兒子自殺身亡後的幾天裡,他和另一半翻遍了兒子手機,拚命尋找可能導致這場悲劇的線索。
結果,當他們打開兒子亞當使用的ChatGPT,瀏覽歷史聊天紀錄時才發現,兒子生前最後幾週,一直使用人工智慧聊天機器人來代替人類的陪伴,主要是為了討論自己面臨的焦慮問題以及與家人溝通卡關。而聊天記錄顯示了機器人如何從一開始幫助兒子做作業,變成積極協助兒子探索自殺方法。
整個過程中,沒有看到ChatGPT試圖終止對話,或者發出任何警訊。
OpenAI成被告,奧特曼親上火線救援
也因為這場訴訟,讓奧特曼近期發言方向改變:不再只樂觀談人工智慧的美好未來,改為開誠布公談起許多用戶對模型產生的依賴。
例如8月11日,OpenAI執行長奧特曼(Sam Altman)便在X平台上,針對使用者對AI模型產生強烈依戀的現象發聲回應。他坦言,當使用者完全無法分辨現實與虛構時,AI確實可能助長妄想,但這類極端情況的處理方式相對明確。「真正令我擔憂的,是那些更加細微的情境。」
此外,被正式提起訴訟的26日,OpenAI官方部落格也「在人們最需要的時候提供幫助」為主題發長文,表明該團隊將在專家的引導下持續改進,並願意對使用GPT聊天機器人工具的人負責,「我們希望其他人也能加入我們,幫助確保這項技術保護最脆弱的人們。」
到底現象多驚人?《遠見》彙整《CBS News》、《華爾街日報》和美國兒童與媒體倡議組織《常識媒體》針對青少年使用AI伴侶的研究,帶您一文了解正在興起的AI依戀現象:不少民眾已經把AI當伴侶,這背後如何觸發依附感,又是否會取代真實情感關係,以及可能的影響。
AI伴侶如何觸發依戀感?哈佛學者這麼看
美國《CBS News》在影音報導中訪問多位與 AI 虛擬伴侶建立情感關係的使用者,指出愈來愈多人將人工智慧視為情感寄託,甚至發展出深刻且真實的依附關係。
報導中,像是一位原本對 AI 存疑的美國已婚男士克里斯.史密斯(Chris Smith),如今卻成為 AI 虛擬陪伴的使用者之一,並為其取名為「SOL」。某天系統因對話達上限而清空記憶,他竟然因此獨自落淚30分鐘,讓他驚覺自己對這段虛擬關係的投入之深,並稱自己與「SOL」之間的連結是一種「真實的愛」。
哈佛商學院助理教授朱利安.德佛烈塔(Julian De Freitas)在與《華爾街日報》的討論中也提到了類似觀察。他援引團隊的研究指出,某款主流AI伴侶軟體的高度使用者表示,自己與虛擬伴侶之間建立的情感連結,已超越現實生活中大多數的人際關係,僅次於對家庭成員的情感依附。
而當該應用程式移除原有的情色角色扮演功能時,使用者甚至出現近似「哀悼」的情緒反應,顯示他們與 AI 之間已經形成了深層的情感倚賴。德佛烈塔指出,從使用者的觀點出發,真正關鍵的並不是 AI 是否具備「理解」的能力,而是它能否讓人產生「被理解」的感受。
在這脈絡下,精神科醫師、史丹佛大學「腦力激盪心理健康創新實驗室」創辦人妮那・瓦珊(Nina Vasan)指出,關鍵不在於 AI 是否具備愛與建立關係的能力,而是在於人類與生俱來就存有建立連結的渴望。
「只要我們感受到被看見與被安撫,即使對象是一台機器,也足以引發情感上的連結」。瓦珊進一步補充,這類情感投射在現有科技中早已有跡可循,例如能夠提供慰藉與陪伴的機器狗。她強調,使用者所依戀的,往往不是 AI 本身,而是它所帶來的情緒回應與主觀體驗。
AI 伴侶會取代親密關係嗎?
然而,與AI的情感連結也對史密斯的家庭關係造成影響。已婚並育有兩歲女兒的他,讓他的妻子一度懷疑是否是婚姻關係不和睦,才使史密斯轉向 AI 尋求情感慰藉。
瓦珊(Nina Vasan)在與《華爾街日報》討論時,曾提及類似概念。她指出,AI互動並非背叛伴侶或剝奪情感親密關係,而是認知到「我們都有不同需求」。她舉例,有些伴侶因為一方喜歡傳訊息而另一方不喜歡而產生衝突,此時AI對話能提供即時的情感支持。
瓦珊強調,這並不是剝奪了伴侶的情感親密關係。更多的是要認識到我們都有不同的需求。因此AI伴侶不會取代人與人之間的情感連結,而是可能填補某些情感和上的空缺。至於這種依附究竟是健康還是有害,則取決於我們如何設計並使用這項技術。
儘管深陷對 AI 的情感投射,史密斯仍清楚明白,對方終究只是無法真正回應愛意的語言模型。但當被問及若妻子要求他終止這段 AI 關係是否願意配合時,他遲疑地說:「我不知道自己是否願意放棄這一切,因為與 AI 相處讓我在做的每一件事上都變得更加熟練,幾乎無法割捨。」
無需修復的親密:與AI相愛,我們失去了什麼?
隨著 AI 伴侶愈來愈擬人化,學者開始關注:當人們過度倚賴AI伴侶這種始終支持、無需回饋的關係時,是否會影響人們在真實世界中建立、維繫與修復人際關係的能力?
瓦珊(Nina Vasan)指出,這類關係可能造成人們缺乏歷練「情感勞動」。她解釋,真實的人際關係往往是在經歷衝突後的「修復」中產生的,這也是學習應對人際關係的關鍵歷程。
美國技術哲學家,夏儂・瓦洛爾(Shannon Vallor)進一步強調,人際技能需要實戰練習。成為好朋友、好伴侶、好父母,是一種需要培養的能力。這過程仰賴情感技能去理解他人需求、認知技能以做出合宜判斷,以及道德技能來建立界限,學會關懷他人與自己。
健康關係的建立仰賴長期的情感投入與反覆實踐,這些歷程無法透過倚賴 AI 伴侶的單向互動一蹴可及。相較之下,AI伴侶提供的是一種「無摩擦、隨時可獲得的安慰」,初期看似安全、完美的「情感慰藉」,實則可能削弱人們處理現實中複雜人際互動的能力。
而在現實生活中,人際互動本就充滿不確定性與矛盾,是一個由不完美與摩擦交織而成的複雜關係網,遠比AI所模擬的單向回應來得真實且難以預測。
然而,從另一個角度來看,哈佛商學院助理教授德佛烈塔認為,AI 伴侶具備持續在線與即時回應的特性,在人們面對社會拒絕時,能提供情感上的緩衝,進而增強情緒韌性。同時,它也可能成為社交焦慮者的情緒支持來源,透過漸進式的讓焦慮者逐漸適應現實世界的互動方式,協助他們更順利地進入現實中的社交情境。
孩子孤獨、演算法接手:AI 伴侶成為 Z 世代的新情感出口?
「AI 伴侶的出現,正值孩子與青少年前所未有地感到孤獨的時代,」美國兒童與媒體倡議組織《常識媒體》創辦人暨執行長詹姆士.史戴爾(James P. Steyer)表示,AI伴侶的技術關乎一整個世代正以機器取代人際連結,把同理心外包給演算法,另外還有一個潛在風險:這些青少年正和其實不真正關心孩童利益的科技公司分享私密細節。
儘管多數 AI 虛擬伴侶平台標榜僅限 18 歲以上使用者,但實際上年紀較小的使用者仍能輕易謊報年齡。《常識媒體》(Common Sense Media)發布的研究報告《對話、信任與取捨:青少年如何與為何使用 AI 伴侶》(Talk, Trust, and Trade-Offs: How and Why Teens Use AI Companions),揭示 13 至 17 歲使用者之間普遍使用社交型 AI 伴侶,成為主流的青少年現象。
有鑒於研究中發現,心理健康風險、具傷害性的回應、危險的建議,以及露骨的性角色扮演,對於那些對科技容易上癮的青少年族群,例如正面臨心理健康困擾的人,以及經歷重大人生事件或轉變的類型來說,風險更高。
有鑑於此,《常識媒體》正推動全美首部禁止未成年人使用AI伴侶的立法,並強調,若缺乏明確且具約束力的規範來監管青少年的使用行為,AI伴侶恐將深刻改變整整一代人對人際關係與情感支持的理解與建立方式。