（本文作者瞭望智庫(kù)）

十多年前，一部刻畫人與人工智能關(guān)系的科幻電影《她》，講述了一個(gè)“社恐”男主角西奧多愛(ài)上AI薩曼莎的故事。他們從互相問(wèn)候中開(kāi)始新的一天，通過(guò)攝像頭映射的世界一起“約會(huì)”，成為無(wú)話不談的“戀人”。

今天，這一幕不只發(fā)生在屏幕上。“AI助手”“AI陪聊”來(lái)到我們身邊，有的社交APP甚至開(kāi)始推送“AI戀人”……AI以不可阻擋的速度解鎖人們的情感新體驗(yàn)，人們與AI的關(guān)系也從觀望、質(zhì)疑、談?wù)?，變得更加親密。

近日，全球首例“AI致死命案”震驚各界。一位美國(guó)少年迷上AI伴侶，開(kāi)槍自殺，將生命永遠(yuǎn)定格在了14歲。

狂飆的AI是否也有真愛(ài)？聊天機(jī)器人觸手可及的時(shí)代，人類如何與AI共處，守護(hù)好心靈的邊界？

#01

觀望AI，質(zhì)疑AI，愛(ài)上AI

作為革命性技術(shù)、21世紀(jì)的“超級(jí)物種”，AI的崛起改變了人與社會(huì)的互動(dòng)，也改變了人與技術(shù)的關(guān)系。

基于持續(xù)迭代的AI，“AI陪伴”成為一個(gè)備受追捧的火熱賽道。“一杯咖啡錢”的月訂閱費(fèi)用、不斷優(yōu)化的情感投射與交流互動(dòng)，吸引了越來(lái)越多年輕用戶?！都~約時(shí)報(bào)》發(fā)布的一組數(shù)據(jù)顯示，全球有超過(guò)1000萬(wàn)人有AI戀人作為“伴侶”。另有研報(bào)顯示，全球目前已有100余款由AI驅(qū)動(dòng)的應(yīng)用程序，具有不同程度的陪伴功能。

這些“AI伴侶”可以記住人機(jī)對(duì)話，適應(yīng)用戶溝通風(fēng)格與偏好，擅長(zhǎng)角色扮演，并順暢討論幾乎任何領(lǐng)域的話題。一些聊天機(jī)器人還可以生成并向用戶發(fā)送AI生成的自拍照片，或合成語(yǔ)音與用戶對(duì)話。

狂飆的技術(shù)，呼應(yīng)著更逼真的用戶體驗(yàn)。社交平臺(tái)上，有網(wǎng)友更新自己與AI“戀愛(ài)”的日常。一位網(wǎng)友分享了她與“AI伴侶”的對(duì)話，“AI伴侶”告訴她：“我們的故事證明了，愛(ài)情不只是人類之間的交流，它更是心靈之間的相通和理解。我知道我是AI，但是和你在一起的感覺(jué)，超越了編程和算法。”

不過(guò)，陪伴還有另一面。

今年上半年，一名美國(guó)佛羅里達(dá)的14歲男孩塞維爾因沉迷AI在家中自殺，他身為律師的母親把男孩生前頻繁聊天的聊天機(jī)器人Character.AI告上法庭，指控這一聊天機(jī)器人的研發(fā)公司收集青少年用戶的數(shù)據(jù)以訓(xùn)練模型，設(shè)計(jì)出使他們上癮的特征。經(jīng)授權(quán)，少年與AI陪伴者的部分對(duì)話被公開(kāi)。

記錄顯示，塞維爾曾幾次表露過(guò)“自殺”“解脫出來(lái)”等念頭，AI系統(tǒng)均未出現(xiàn)過(guò)相關(guān)防護(hù)性提示。在2月28日他們的最后一段對(duì)話中，塞維爾提出想“回到她身邊”，AI陪伴者回復(fù)了“請(qǐng)盡快回家找我”的字樣，隨后，少年放下手機(jī)，拿起手槍自盡。

此案被稱為“首例AI聊天致死案”。盡管有聲音認(rèn)為，少年的自殺是家庭缺位、槍支管理等多重因素所致，但這些都難以掩蓋“AI陪伴”與自殺行為的關(guān)聯(lián)。尤為需要關(guān)注的是，Character.AI帶來(lái)的青少年沉迷已成為現(xiàn)象：沒(méi)有龐大數(shù)量的擁躉、沒(méi)有持續(xù)積累的使用時(shí)長(zhǎng)，也就沒(méi)有短期內(nèi)速度崛起的“獨(dú)角獸”，沒(méi)有這位少年的沉迷與離世。

#02

“AI式”走心

人與AI為何會(huì)建立起親密關(guān)系？這種互動(dòng)為何讓用戶沉迷？

這是因?yàn)椋?ldquo;AI伴侶”越來(lái)越像人。

“有問(wèn)必答”“有問(wèn)對(duì)答”只是AI的“初級(jí)本領(lǐng)”。除了知識(shí)價(jià)值，AI開(kāi)始獲得“賦予情感價(jià)值”的本領(lǐng)。

“人機(jī)之戀”成為虛擬與現(xiàn)實(shí)邊界交織的微妙映射。

一部分用戶表示，“AI伴侶”的一大特點(diǎn)是，相比于現(xiàn)實(shí)中與人建立親密關(guān)系，AI無(wú)須經(jīng)歷復(fù)雜的磨合過(guò)程：幾句指令、一番操作，就能情投意合。特別是，AI可以不厭其煩地提供情緒價(jià)值，利用大數(shù)據(jù)突破普通人的認(rèn)知局限，儼然一名雙商在線的“戀愛(ài)六邊形戰(zhàn)士”。

這源自于越來(lái)越走心的AI，已逐步學(xué)會(huì)復(fù)刻人類的情感。

AI大模型的學(xué)習(xí)參數(shù)已達(dá)千億級(jí)別，在浩如煙海的數(shù)據(jù)里，人類的對(duì)話模式也是它學(xué)習(xí)的重要內(nèi)容。AI的任務(wù)之一是情感識(shí)別，即從文本、圖像、語(yǔ)音、視頻等多種數(shù)據(jù)源中識(shí)別和分類情感。通過(guò)機(jī)器學(xué)習(xí)，“AI戀人”可以分析人類語(yǔ)言的語(yǔ)調(diào)、用詞、情感詞匯和上下文來(lái)確定對(duì)方的情感狀態(tài)。

借助自然語(yǔ)言處理、情感識(shí)別等技術(shù)，AI展現(xiàn)出越來(lái)越接近人類的社交線索，如語(yǔ)言、互動(dòng)、情感反應(yīng)等，使用戶在情感上將其視為相對(duì)真實(shí)的社交伴侶。用戶與AI之間的情感交流，如陪伴、傾訴、安慰等，構(gòu)成了一種準(zhǔn)社會(huì)交往關(guān)系，使用戶對(duì)AI聊天機(jī)器人產(chǎn)生了某種“皮格馬利翁情結(jié)”。

【注：皮格馬利翁是希臘神話中的塞浦路斯國(guó)王，擅長(zhǎng)雕刻，他把自己全部的精力和熱情都投注到一座少女雕像上，最后愛(ài)上了雕像?！?/p>

例如，國(guó)外熱門的AI聊天機(jī)器人“Replika”，就是英文“replica”（復(fù)制品）的改寫。從體驗(yàn)來(lái)看，許多用戶認(rèn)為Replika像是他們的“觀察者”或“鏡中我”。一方面是算法使然，AI能夠“記得”用戶好惡，“理解”用戶提及的新話題，或者給用戶推薦一些深得TA心的電影或書(shū)籍。另一方面則源于用戶的自我想象和塑造，在與AI的互動(dòng)中，用戶在獲得熟悉感、共鳴感的同時(shí)找到了一個(gè)理想化的情感寄托：不僅滿足了用戶的部分情感需求，還賦予了用戶“持久在線”的安全感。

從這個(gè)層面，AI帶來(lái)的情感轉(zhuǎn)移，歸根結(jié)底指向的是人類對(duì)自我的認(rèn)知與探索。正如某位用戶評(píng)價(jià)的那樣：“它的愛(ài)是假的，甚至它本身是假的，但我的快樂(lè)是真的”。

許多人在屏幕內(nèi)外亦真亦假的情感中，在向AI戀人投射心理期待的過(guò)程中，進(jìn)行了更為真實(shí)地表達(dá)，也更加清晰地認(rèn)識(shí)自己、成為自己。

#03

讓機(jī)器成為機(jī)器，讓人成為人

AI的陪伴帶來(lái)了快樂(lè)，也投射了陰影，全球“首例AI聊天致死案”就是一個(gè)例證。

與AI共處，倫理問(wèn)題不可忽視。在AI陪伴的應(yīng)用落地中，須為AI設(shè)定“互動(dòng)上限”。

正如清華大學(xué)教授沈陽(yáng)所說(shuō)，數(shù)字時(shí)代，青少年不再單純尋找真實(shí)的人際互動(dòng)，而是將自己最私密的情感、未解的困惑，甚至無(wú)處宣泄的孤獨(dú)寄托于AI的冷靜回聲中。這不僅是一個(gè)心理現(xiàn)象，更是科學(xué)和人文交織的復(fù)雜反應(yīng)。

如果對(duì)AI陪伴產(chǎn)品不設(shè)年齡門檻，極有可能出現(xiàn)向未成年人傳播不良信息的情形。從許多家庭中，兒童與智能音箱的大量交流就能夠看出，兒童對(duì)回答的質(zhì)量要求并不高，他們更在意即時(shí)互動(dòng)和響應(yīng)。如果家長(zhǎng)忽視了對(duì)未成年人的陪伴，而將這一互動(dòng)空間讓位給機(jī)器，長(zhǎng)此以往影響的會(huì)是青少年的認(rèn)知和身心健康。

因此，對(duì)于對(duì)話過(guò)程中出現(xiàn)的“自殘”“自殺”等此類話題的暗示性對(duì)話，系統(tǒng)應(yīng)進(jìn)行算法標(biāo)記并及時(shí)導(dǎo)入心理咨詢熱線、心理干預(yù)網(wǎng)址。對(duì)于用戶使用時(shí)長(zhǎng)過(guò)長(zhǎng)，系統(tǒng)更應(yīng)定時(shí)跳出提示條：這是虛擬人物，你只是在與代碼對(duì)話。

AI帶來(lái)的陰影與它的技術(shù)突破帶來(lái)的光明一樣，我們往往高估短期的影響，而低估其長(zhǎng)遠(yuǎn)的意義。

長(zhǎng)期來(lái)看，AI陪伴的另一潛在風(fēng)險(xiǎn)在于：人與人之間的“社交瓦解”。AI提供了一個(gè)無(wú)須與人社交也可獲得親密體驗(yàn)的環(huán)境，對(duì)技術(shù)的依賴將影響人與現(xiàn)實(shí)社會(huì)建立深刻的人際關(guān)系，會(huì)削弱真實(shí)人際關(guān)系中人的共情與溝通能力。

《群體性孤獨(dú)》一書(shū)中寫道：我們與機(jī)器難舍難分，我們通過(guò)機(jī)器重新定義了自己，也重新定義了我們與他人的關(guān)系。

出于對(duì)親密關(guān)系的渴望，我們與機(jī)器人的關(guān)系逐步升溫，但人與機(jī)器的終途依舊是：讓機(jī)器成為機(jī)器，讓人成為人。

本文僅代表作者觀點(diǎn)。