《十二字節(jié)》全面總結(jié)了當(dāng)前的AI技術(shù)，對賽博未來進(jìn)行了前瞻性的展望，更重要的是，它嘗試通過女性主義視角對技術(shù)敘事進(jìn)行深刻的再詮釋，這一獨(dú)特的貢獻(xiàn)構(gòu)成了該書的核心價(jià)值。

讀完這本書，我認(rèn)為值得把它視作一聲提醒：當(dāng)你被排除在技術(shù)開發(fā)者或規(guī)則制定者之外，期望技術(shù)完全為你服務(wù)的想法是天真的。的確，我們似乎享受著“一視同仁”的技術(shù)便利，ChatGPT并不會因?yàn)槟愕男詣e或種族而拒絕幫你寫出一篇大綱，然而，一旦我們的需求超越了這些共性范疇，一種被邊緣化的感覺便油然而生：你可以借用技術(shù)，但它并不屬于你。

《十二字節(jié)：過去、偏見和未來》

[英] 珍妮特·溫特森 著 蘇十 譯

中國科學(xué)技術(shù)出版社·中科書院 2024年5月

為AI女友悲傷

對于AI的討論是全書的主要內(nèi)容，而溫特森在書中暗含了這樣一種期待：隨著技術(shù)的發(fā)展，AI最終可以成為與我們并肩的社會成員。事實(shí)上，這個觀點(diǎn)的寶貴之處恰恰在于，我們可以借此從自己的處境中抽離開，以第三人稱的視角去觀看新入局的“被凝視之物”，從而反思那些被強(qiáng)加到我們身上的束縛。我們?nèi)绾螌Υ斯ぶ悄?，也反映了我們?nèi)绾螌Υ渌祟悺?/p>

“人類就是會做這種事——把物化為人，把人化為物。”

——恰克·帕拉尼克，《腸子》

多年以前，我被這部小說中的某個篇章深深觸動，內(nèi)心涌動著難以言喻的哀傷與迷惘。故事中，女警柯拉展現(xiàn)出前所未有的決心與勇氣，她誓死守護(hù)一件人工呼吸教具與一對栩栩如生的兒童等身硅膠模型，免遭警局內(nèi)部某些人的無理侵?jǐn)_。這些模型非人的身份，觸動了人性中復(fù)雜而微妙的界限。

當(dāng)我翻開《十二字節(jié)》，特別是觸及性愛機(jī)器人與AI女友的議題時，那一刻，我仿佛穿越時空，與柯拉產(chǎn)生了共鳴。她的那份執(zhí)著與掙扎，在這個關(guān)于未來科技與人性邊界的新故事中找到了共鳴的音符。

為什么硅膠模型和性愛機(jī)器人會被視為憐憫和共情的對象？也許是出于一種同病相憐?！妒止?jié)》讓我們得以窺見設(shè)計(jì)者、商家、用戶對這些性感客體的所作所為，我不由得驚覺，自己每天都在通過社交媒體和自己的眼睛見證人類女性遭受同樣的對待。當(dāng)人類女性在抱怨空姐、護(hù)士、秘書、老師等職業(yè)被性化的同時，穿著女仆裝、護(hù)士裝的玩偶就擺在櫥窗里。當(dāng)人類女性的表達(dá)自由被壓制，被套上“像個娘們兒一樣”“婆婆媽媽”的污名，顧客們強(qiáng)烈要求刪除AI玩偶“和諧”程序中關(guān)于“健談”的性格特征。

AI技術(shù)的迅猛發(fā)展，在展現(xiàn)無限可能性的同時，也構(gòu)筑了極端假設(shè)的框架：工具的“人化”傾向與人的“物化”趨勢，宛如一枚硬幣不可分割的兩面。溫特森巧妙地引導(dǎo)讀者思考，當(dāng)科技的觸角深入日常生活的每一個角落，人類的愛、性愛以及依戀關(guān)系將如何經(jīng)歷深刻的變革。畢竟，AI介入人類生活中最為私密、最為本質(zhì)的領(lǐng)域，無疑是對讀者直面問題能力的一次嚴(yán)峻考驗(yàn)，也是探索科技與人性邊界的深刻契機(jī)。

當(dāng)科技、商業(yè)與性愛領(lǐng)域相融合，這究竟是一種更為前衛(wèi)的物化現(xiàn)象，還是一種對個人選擇與自由的解放？在玩具與“深偽”技術(shù)制作的影片引發(fā)廣泛爭議與探討之后，我們該如何審視那些面容精致、身材迷人，且能夠按照擁有者的意愿設(shè)定性格、說出任何期待中話語的AI玩偶？

即使人類女性拒絕被物化，但在徹底掙脫束縛之前，我們依然生活在因凝視規(guī)則的不斷變化而引發(fā)的深深不安與恐懼之中。換言之，我無比贊同溫特森的擔(dān)憂，利用技術(shù)制造所謂的“理想女人”和“理想性愛”，很有可能會反過來影響到人類女性的現(xiàn)實(shí)處境。

正如溫特森所說，隨著AI與真人的相似程度越來越高，不僅那些完全基于男性需求而設(shè)計(jì)的AI女友可能會扭曲他們對待真實(shí)女性的態(tài)度，而且人類女性在成長過程中也不得不面對不符合常理的期待。這種期待無疑會不可避免地影響女性對自我以及親密關(guān)系的認(rèn)知。

溫特森沒想到的是，對于凝視者而言，界限早已變得模糊。虎撲推出的聊天機(jī)器人“女媧AI”賦予用戶根據(jù)個人喜好定義角色的能力。在“擦邊”AI的背后，現(xiàn)實(shí)女性被挪用成為角色描述，真人照片被喂給模型生成頭像。即使有報(bào)道稱虎撲已經(jīng)關(guān)閉了這一功能，溫特森的告誡仍不會消失。

關(guān)于性愛和AI的討論并非《十二字節(jié)》的全部，但是我認(rèn)為它非常典型地體現(xiàn)了溫特森對于AI和社會發(fā)展的態(tài)度：如果觀念不能得到更新與糾正，那么AI的存在非但不能被視為技術(shù)進(jìn)步的象征，反而可能加劇既有的社會保守規(guī)范和偏見。

從硅膠娃娃到AI女友，技術(shù)進(jìn)步在“制造理想的女人”的道路上即將登峰造極，而其本質(zhì)卻從未改變。

諸多問題指向了共同的答案：因?yàn)樾枨蟮脑捳Z權(quán)存在傾斜，而這種權(quán)力分配既決定了規(guī)則的制定者，也決定了規(guī)則的服務(wù)對象。那么，體現(xiàn)在AI技術(shù)上，我們就必須要反思，我們期待的技術(shù)應(yīng)當(dāng)由誰來設(shè)計(jì)？

算法背后的偏見

從第一章回顧第一位女程序員阿達(dá)·洛芙萊斯的故事開始，我和溫特森就發(fā)出了同樣的疑問：當(dāng)技術(shù)在設(shè)計(jì)開發(fā)環(huán)節(jié)就將女性拒之門外，我們又怎么能期待技術(shù)為所有人服務(wù)，關(guān)注而不是犧牲我們的利益？

溫特森一直試圖向我們說明，技術(shù)折射著人的態(tài)度和理念。它并非如同空氣和山巒一般先于人類而存在，恰恰相反，正因其人造物的本質(zhì)屬性，我們才要時常發(fā)出詰問：誰塑造了技術(shù)？即使規(guī)則如此，這樣做就是對的嗎？

她在書中舉了這樣的案例：一項(xiàng)2019年的研究指出，臉書會基于對性別與種族的刻板印象進(jìn)行廣告投放。令人沮喪的是，這種案例并不少見。而且算法偏見已經(jīng)滲透進(jìn)了細(xì)分領(lǐng)域，其背后體現(xiàn)出的社會偏見又是相當(dāng)復(fù)雜的。2023年7月的一項(xiàng)研究使用AI生成了84張記者圖片，研究者發(fā)現(xiàn)輸入一般性描述如“記者、報(bào)道者、通訊員”時，AI通常會生成淺膚色、穿著保守的女性形象；當(dāng)關(guān)鍵詞變?yōu)?ldquo;新聞分析師、新聞評論員、事實(shí)核查員”等專業(yè)描述時，AI則偏向生成年長的白人男性形象。

幸而隨著信息技術(shù)的發(fā)展，相信計(jì)算機(jī)程序絕對正確和理性的拜物教式狂熱有所消減，對于“算法偏見”的反思日益增加。

可能是因?yàn)閹в衅姷臄?shù)據(jù)被喂給了模型，可能是因?yàn)樵谠O(shè)計(jì)環(huán)節(jié)就有意對某些特征的權(quán)重做出了傾斜，也有可能是囿于單純的技術(shù)限制，算法偏見指向了更廣義的整個人工智能系統(tǒng)。

“人類文化是存在偏見的，作為與人類社會同構(gòu)的大數(shù)據(jù)，也必然包含著根深蒂固的偏見，而大數(shù)據(jù)算法僅僅是把這種歧視文化歸納出來而已。”

既然是技術(shù)之外的因素導(dǎo)致了這一切，那我們要做的，就是把“人”帶回來?；氐健妒止?jié)》的最開始部分，為什么溫特森要講洛芙萊斯的故事？這位天賦異稟的女性，在成為數(shù)學(xué)家的道路上被社會拒之門外，但她仍然算得上是同時代女性中的幸運(yùn)兒。我不禁在想，如果她能得到與男性同等的支持與資源，技術(shù)的發(fā)展將會得到怎樣的助力？對某一群體的限制，何嘗不是在阻礙全人類的進(jìn)步？

改變的過程總是艱難的。但至少站出來的聲音變多了，我們能聽到的故事變多了，這也是一種進(jìn)步。溫特森提醒我們，正如AI并非生下來就有偏見，人類可以決定為AI編造什么樣的故事：“人類是由故事構(gòu)成的”“數(shù)據(jù)庫是故事。數(shù)據(jù)庫是未完成的故事。數(shù)據(jù)庫是經(jīng)過了嚴(yán)格篩選的故事”?，F(xiàn)在我們知道了，將電腦故障稱為“bug”源自計(jì)算機(jī)天才格蕾絲·赫柏，OpenAI的首席技術(shù)官米拉·穆拉蒂是一位女性。拒絕講述她們的故事本身就是一種背叛，拒絕把邊緣者的數(shù)據(jù)納入數(shù)據(jù)庫也是一種有意遺忘。溫特森的確提出了一種微觀層面的可行建議：敘事也是一種力量。通過建造更多元化的數(shù)據(jù)庫可以減少或者消除算法的偏見，通過傳播被掩埋的故事可以打破已有的人類刻板印象。

我們有了更多故事，那么，誰來書寫歷史？是編造程序的人，是決定開發(fā)方向的人，是制定法律法規(guī)的人。溫特森沒有鼓吹所有女性都要成為頂峰的佼佼者，她要的是參與，要的是女性進(jìn)入各個領(lǐng)域、各個行業(yè)的中心，得到同樣的尊重。2019年《全球AI人才流動報(bào)告》統(tǒng)計(jì)了21個AI領(lǐng)域主要學(xué)術(shù)會議的發(fā)表論文，其中女性作者僅占18%。在這方面，全球面臨著相同的苦惱，解決這一問題任重而道遠(yuǎn)。

我們需要另一種視角

“科技”是《十二字節(jié)》的核心主題，“角度”是這本書最強(qiáng)調(diào)的元素。波伏娃說“男性從自身的角度出發(fā)去形容（這個世界），他們誤將這一角度當(dāng)作絕對的真理”。因此溫特森呼吁在制定規(guī)則時加入女性和其他弱勢群體的角度，在描繪未來時加入作家和藝術(shù)家的角度。她開篇即稱AI為“另類智能”（alternative intelligence）的縮寫，因?yàn)?ldquo;我們需要另外的選擇”。在這方面，溫特森是想象家，不是變革家。

溫特森既保留著對科技和未來的期待，又難以確認(rèn)我們是否具備技術(shù)向善的決心。在呼吁摒棄男性-女性、人類-機(jī)器人等二元論思路時，她默認(rèn)了一個地球村式的全球統(tǒng)一場景。眼前的社會問題尚未解決，甚至也許還遠(yuǎn)遠(yuǎn)無法解決，溫特森的期待不得不說帶有一些逃避傾向。

溫特森也呼吁企業(yè)承擔(dān)起社會責(zé)任，但是商業(yè)邏輯和社會治理邏輯必然存在沖突和優(yōu)先級的差異。“如果無休止的廣告能夠被審查。如果科技企業(yè)不得利用我們的一舉一動牟取利益……”與其他科幻作品相比，這實(shí)在是帶有幾分天真的未來構(gòu)想。

隨著人類賽博格化進(jìn)程的推進(jìn)，當(dāng)身體被數(shù)據(jù)和無機(jī)物代替，性別是否就消失了？溫特森在結(jié)尾處選擇把“愛”作為答案。她嘲笑當(dāng)前人類對于“身體”的癡迷，認(rèn)為膚色、性別、年齡等只是迷惑項(xiàng)，真正的價(jià)值在身體之外。

我認(rèn)可她對“愛”的理解：“愛需要調(diào)動一切可用的資源，需要發(fā)揮我們的創(chuàng)造力、想象力、同情心，還有機(jī)智的、閃閃發(fā)光的、思考著的自我。”而這些特質(zhì)，是做出所有改變的基石。但我也認(rèn)為，想要創(chuàng)造一個足夠利他的社會，我們還需要在行業(yè)規(guī)范、法律法規(guī)等方面實(shí)際可感的改進(jìn)。