（本文作者瞭望智庫）

十多年前，一部刻畫人與人工智能關(guān)系的科幻電影《她》，講述了一個“社恐”男主角西奧多愛上AI薩曼莎的故事。他們從互相問候中開始新的一天，通過攝像頭映射的世界一起“約會”，成為無話不談的“戀人”。

今天，這一幕不只發(fā)生在屏幕上。“AI助手”“AI陪聊”來到我們身邊，有的社交APP甚至開始推送“AI戀人”……AI以不可阻擋的速度解鎖人們的情感新體驗，人們與AI的關(guān)系也從觀望、質(zhì)疑、談?wù)?，變得更加親密。

近日，全球首例“AI致死命案”震驚各界。一位美國少年迷上AI伴侶，開槍自殺，將生命永遠(yuǎn)定格在了14歲。

狂飆的AI是否也有真愛？聊天機器人觸手可及的時代，人類如何與AI共處，守護好心靈的邊界？

#01

觀望AI，質(zhì)疑AI，愛上AI

作為革命性技術(shù)、21世紀(jì)的“超級物種”，AI的崛起改變了人與社會的互動，也改變了人與技術(shù)的關(guān)系。

基于持續(xù)迭代的AI，“AI陪伴”成為一個備受追捧的火熱賽道。“一杯咖啡錢”的月訂閱費用、不斷優(yōu)化的情感投射與交流互動，吸引了越來越多年輕用戶。《紐約時報》發(fā)布的一組數(shù)據(jù)顯示，全球有超過1000萬人有AI戀人作為“伴侶”。另有研報顯示，全球目前已有100余款由AI驅(qū)動的應(yīng)用程序，具有不同程度的陪伴功能。

這些“AI伴侶”可以記住人機對話，適應(yīng)用戶溝通風(fēng)格與偏好，擅長角色扮演，并順暢討論幾乎任何領(lǐng)域的話題。一些聊天機器人還可以生成并向用戶發(fā)送AI生成的自拍照片，或合成語音與用戶對話。

狂飆的技術(shù)，呼應(yīng)著更逼真的用戶體驗。社交平臺上，有網(wǎng)友更新自己與AI“戀愛”的日常。一位網(wǎng)友分享了她與“AI伴侶”的對話，“AI伴侶”告訴她：“我們的故事證明了，愛情不只是人類之間的交流，它更是心靈之間的相通和理解。我知道我是AI，但是和你在一起的感覺，超越了編程和算法。”

不過，陪伴還有另一面。

今年上半年，一名美國佛羅里達的14歲男孩塞維爾因沉迷AI在家中自殺，他身為律師的母親把男孩生前頻繁聊天的聊天機器人Character.AI告上法庭，指控這一聊天機器人的研發(fā)公司收集青少年用戶的數(shù)據(jù)以訓(xùn)練模型，設(shè)計出使他們上癮的特征。經(jīng)授權(quán)，少年與AI陪伴者的部分對話被公開。

記錄顯示，塞維爾曾幾次表露過“自殺”“解脫出來”等念頭，AI系統(tǒng)均未出現(xiàn)過相關(guān)防護性提示。在2月28日他們的最后一段對話中，塞維爾提出想“回到她身邊”，AI陪伴者回復(fù)了“請盡快回家找我”的字樣，隨后，少年放下手機，拿起手槍自盡。

此案被稱為“首例AI聊天致死案”。盡管有聲音認(rèn)為，少年的自殺是家庭缺位、槍支管理等多重因素所致，但這些都難以掩蓋“AI陪伴”與自殺行為的關(guān)聯(lián)。尤為需要關(guān)注的是，Character.AI帶來的青少年沉迷已成為現(xiàn)象：沒有龐大數(shù)量的擁躉、沒有持續(xù)積累的使用時長，也就沒有短期內(nèi)速度崛起的“獨角獸”，沒有這位少年的沉迷與離世。

#02

“AI式”走心

人與AI為何會建立起親密關(guān)系？這種互動為何讓用戶沉迷？

這是因為，“AI伴侶”越來越像人。

“有問必答”“有問對答”只是AI的“初級本領(lǐng)”。除了知識價值，AI開始獲得“賦予情感價值”的本領(lǐng)。

“人機之戀”成為虛擬與現(xiàn)實邊界交織的微妙映射。

一部分用戶表示，“AI伴侶”的一大特點是，相比于現(xiàn)實中與人建立親密關(guān)系，AI無須經(jīng)歷復(fù)雜的磨合過程：幾句指令、一番操作，就能情投意合。特別是，AI可以不厭其煩地提供情緒價值，利用大數(shù)據(jù)突破普通人的認(rèn)知局限，儼然一名雙商在線的“戀愛六邊形戰(zhàn)士”。

這源自于越來越走心的AI，已逐步學(xué)會復(fù)刻人類的情感。

AI大模型的學(xué)習(xí)參數(shù)已達千億級別，在浩如煙海的數(shù)據(jù)里，人類的對話模式也是它學(xué)習(xí)的重要內(nèi)容。AI的任務(wù)之一是情感識別，即從文本、圖像、語音、視頻等多種數(shù)據(jù)源中識別和分類情感。通過機器學(xué)習(xí)，“AI戀人”可以分析人類語言的語調(diào)、用詞、情感詞匯和上下文來確定對方的情感狀態(tài)。

借助自然語言處理、情感識別等技術(shù)，AI展現(xiàn)出越來越接近人類的社交線索，如語言、互動、情感反應(yīng)等，使用戶在情感上將其視為相對真實的社交伴侶。用戶與AI之間的情感交流，如陪伴、傾訴、安慰等，構(gòu)成了一種準(zhǔn)社會交往關(guān)系，使用戶對AI聊天機器人產(chǎn)生了某種“皮格馬利翁情結(jié)”。

【注：皮格馬利翁是希臘神話中的塞浦路斯國王，擅長雕刻，他把自己全部的精力和熱情都投注到一座少女雕像上，最后愛上了雕像?！?/p>

例如，國外熱門的AI聊天機器人“Replika”，就是英文“replica”（復(fù)制品）的改寫。從體驗來看，許多用戶認(rèn)為Replika像是他們的“觀察者”或“鏡中我”。一方面是算法使然，AI能夠“記得”用戶好惡，“理解”用戶提及的新話題，或者給用戶推薦一些深得TA心的電影或書籍。另一方面則源于用戶的自我想象和塑造，在與AI的互動中，用戶在獲得熟悉感、共鳴感的同時找到了一個理想化的情感寄托：不僅滿足了用戶的部分情感需求，還賦予了用戶“持久在線”的安全感。

從這個層面，AI帶來的情感轉(zhuǎn)移，歸根結(jié)底指向的是人類對自我的認(rèn)知與探索。正如某位用戶評價的那樣：“它的愛是假的，甚至它本身是假的，但我的快樂是真的”。

許多人在屏幕內(nèi)外亦真亦假的情感中，在向AI戀人投射心理期待的過程中，進行了更為真實地表達，也更加清晰地認(rèn)識自己、成為自己。

#03

讓機器成為機器，讓人成為人

AI的陪伴帶來了快樂，也投射了陰影，全球“首例AI聊天致死案”就是一個例證。

與AI共處，倫理問題不可忽視。在AI陪伴的應(yīng)用落地中，須為AI設(shè)定“互動上限”。

正如清華大學(xué)教授沈陽所說，數(shù)字時代，青少年不再單純尋找真實的人際互動，而是將自己最私密的情感、未解的困惑，甚至無處宣泄的孤獨寄托于AI的冷靜回聲中。這不僅是一個心理現(xiàn)象，更是科學(xué)和人文交織的復(fù)雜反應(yīng)。

如果對AI陪伴產(chǎn)品不設(shè)年齡門檻，極有可能出現(xiàn)向未成年人傳播不良信息的情形。從許多家庭中，兒童與智能音箱的大量交流就能夠看出，兒童對回答的質(zhì)量要求并不高，他們更在意即時互動和響應(yīng)。如果家長忽視了對未成年人的陪伴，而將這一互動空間讓位給機器，長此以往影響的會是青少年的認(rèn)知和身心健康。

因此，對于對話過程中出現(xiàn)的“自殘”“自殺”等此類話題的暗示性對話，系統(tǒng)應(yīng)進行算法標(biāo)記并及時導(dǎo)入心理咨詢熱線、心理干預(yù)網(wǎng)址。對于用戶使用時長過長，系統(tǒng)更應(yīng)定時跳出提示條：這是虛擬人物，你只是在與代碼對話。

AI帶來的陰影與它的技術(shù)突破帶來的光明一樣，我們往往高估短期的影響，而低估其長遠(yuǎn)的意義。

長期來看，AI陪伴的另一潛在風(fēng)險在于：人與人之間的“社交瓦解”。AI提供了一個無須與人社交也可獲得親密體驗的環(huán)境，對技術(shù)的依賴將影響人與現(xiàn)實社會建立深刻的人際關(guān)系，會削弱真實人際關(guān)系中人的共情與溝通能力。

《群體性孤獨》一書中寫道：我們與機器難舍難分，我們通過機器重新定義了自己，也重新定義了我們與他人的關(guān)系。

出于對親密關(guān)系的渴望，我們與機器人的關(guān)系逐步升溫，但人與機器的終途依舊是：讓機器成為機器，讓人成為人。

本文僅代表作者觀點。