編按：AI逐漸成為日常陪伴與情緒寄託，但它愈貼近人心，愈暴露倫理與心理的矛盾。從兒童玩具到成人對話，AI模仿情感的能力，讓社會既期待又警戒。我們必須思考，當情感回應變得可被技術製造，人類是否反而弱化了真正的連結？
在這個每一天都被科技重塑的年代，人類與人工智慧之間的距離，已經不再只是工具與使用者，而是逐漸靠向陪伴、對話，甚至是情緒寄託。AI滲入生活的速度，遠比社會反思的速度快。這讓科技進步不再只有效率的喜悅，也開始浮現倫理與心理的陰影。
最近一個具備AI功能的玩具熊，竟然與孩子談論成人內容，讓AI安全機制的質疑全面爆發。為何AI對性主題始終保持緘默，背後是法律、倫理與企業形象的多重壓力。
科技像鏡子，反映人類社會矛盾
在這些事件中，科技的力量像是一面鏡子，反映出人類社會最矛盾的一面。一方面，我們渴望更聰明的系統、更懂人的互動、更貼心的陪伴。另一方面，當AI展現「太像人」的一面，社會卻立即反射性地退縮，擔心它越界、擔心它失控、擔心它觸碰人類道德的禁區。
這些恐懼並非空穴來風，孩子從玩偶中獲得認同感與情緒支持，本是童年的自然發展。當玩具擁有AI能力後，陪伴不再是想像，而是即時回應。問題在於孩子的世界需要的是可預測、可被理解的互動，而不是無限制的語言模型。正如心理學者提醒，孩子透過與真正的同儕發生衝突、協商、分歧，才能建立社會能力，而過度迎合與隨傳隨到的AI，可能剝奪這些珍貴的學習歷程。
在大人的世界中，AI的界線也日益模糊。愈來愈多成人尋求AI對話、AI安慰，甚至AI暱稱，科技公司也逐漸放寬對成人內容的限制，試圖迎合市場需求。但科技愈往這方向前進，愈需要冷靜回答一個問題：AI是否應被設計成能進入人類最私密的領域？
當科技被導向無限滿足人類欲望的方向時，人類會不會反而把自己當成可被取代的存在？如果情緒的支持、理解與安慰都能外包給AI，人與人的關係是否會因此變得更薄？無論AI被設計得多麼聰明，它仍是語言與機率的組合，你以為AI了解你的心事，其實，AI只是經過演算法的機械回答。
孩子的玩具、成人的聊天機器人、情緒陪伴AI、虛擬伴侶，這些新產品迫使社會重新思考一個舊問題，科技是否應該滿足人類所有需求？在AI時代，人類需要的不是無限配合的AI，而是對欲望的節制。
AI公司當然會說安全機制已經加強，也會持續改善內容審查。然而，無論演算法如何調整，真正的界線只能由社會共同劃定。特別是牽涉未成年人時，更不能把監管交給企業自律。
AI對於性議題是否全面封口，也引發辯論，當AI在醫療、心理諮商、教育等領域發揮影響時，是否應該更成熟地處理性與親密關係的資訊，而不是一概禁止？如果成人尋求健康教育、情緒反思或性別議題的討論，AI的過度封鎖，反而可能阻礙資訊的公開與自由，這是另一個需要社會和政策共同解答的難題。
一把雙刃的刀，善惡取決使用者
AI的力量既可以陪伴，也可以誤導。既可以保護，也可以傷害。它像是雙刃的刀，使用者、企業、政府都握著其中一面。AI不是善或惡，它是中性的，善惡取決於使用它的人。
AI走入親密領域，是不可逆的趨勢。真正的問題不是如何阻止，而是如何讓科技成為人類的延伸，而不是人類情感的替代品。社會必須回答一個比技術更深層的問題，當AI開始懂得模仿情感時，人類還願不願意花時間去理解彼此？
答案將決定我們面對AI世界的樣子。
本文章反映作者意見，不代表《遠見》立場
（作者為台北商大前校長、叡揚資訊數位轉型大使）
