對于國人來說，在DeepSeek出現(xiàn)之前，人工智能似乎從未這么親切過。當(dāng)今世界，尖端科技、前沿技術(shù)似乎只存在于實(shí)驗(yàn)室和研究所中，而還在發(fā)展階段的人工智能卻以驚人的速度完成了從象牙塔到“飛入尋常百姓家”的突圍。短短幾個月時間，DeepSeek似乎已經(jīng)全方面滲透進(jìn)我們的生活。

當(dāng)我們驚嘆于AI創(chuàng)造力與效率的同時，也不得不思考一個更加深刻的問題：在這個技術(shù)飛速發(fā)展的時代，人類如何捍衛(wèi)自身的尊嚴(yán)與價值？我們執(zhí)著于分辨AI有沒有人類的思考能力和欲望，試圖界定人類與機(jī)器的本質(zhì)區(qū)別來緩解也許自己終有一天會被AI替代的恐慌。

正如基辛格等人在新書《人工智能時代與人類價值》中所警示的，當(dāng)人類逐漸依賴機(jī)器處理越來越多的決策時，我們究竟是要讓科技賦能人類，還是被科技重新塑造甚至取代？如果我們無法清晰界定人類與機(jī)器的本質(zhì)區(qū)別，我們可能會將定義自身價值的任務(wù)交給機(jī)器。而這可能是人類文明面臨的最大考驗(yàn)。經(jīng)出版社授權(quán)，第一財經(jīng)節(jié)選部分篇章。

所有人類都值得被保護(hù)

這句聽起來溫暖而正義的宣言，如果成為了人工智能需要嚴(yán)格遵循的一條準(zhǔn)則，會發(fā)生什么？

想象一下，一臺機(jī)器被告知，所有屬于“人類”類別的生物都值得保護(hù)，這臺機(jī)器很可能已經(jīng)接受過“訓(xùn)練”，認(rèn)識到人類是優(yōu)雅、樂觀、理性和有道德的生物。但是，如果我們自己未能達(dá)到我們所定義的理想人類的標(biāo)準(zhǔn)呢？我們怎樣才能讓機(jī)器相信，盡管我們的個體表現(xiàn)并不完美，卻仍歸屬于那個崇高的類別？

假設(shè)有一天，這臺機(jī)器遇到了一個表現(xiàn)出暴力、悲觀、非理性和貪婪的人，它將如何調(diào)整自身被打亂的預(yù)期呢？一種可能性是，機(jī)器可能會認(rèn)為這個壞分子只是“人類”這個總體為善的類別中的一個例外，一個非典型的例子。

或者，它也可以重新調(diào)整自己對人性的整體定義，將這個壞分子也包括在內(nèi)，在這種情況下，它可能會認(rèn)為自己可以自行弱化對人類的服從傾向。

又或者，更激進(jìn)的情況下，它可能完全不再認(rèn)為自己應(yīng)受制于那些它先前所習(xí)得的“合理”對待人類的規(guī)則。

今天，人類是機(jī)器與現(xiàn)實(shí)的中介。人工智能主要是一種思考機(jī)器，而不是執(zhí)行機(jī)器。它或許能給出問題的答案，但還不具備執(zhí)行結(jié)論的手段，而是依賴人類來完成與現(xiàn)實(shí)的對接。

但是，如果人類真的選擇了一個道德不作為的未來，從碳基世界退縮到硅基世界，進(jìn)一步鉆進(jìn)脫離現(xiàn)實(shí)的“數(shù)字洞穴”，將接觸原始現(xiàn)實(shí)的機(jī)會交予機(jī)器之手，那么兩者的角色就可能逆轉(zhuǎn)。

當(dāng)人工智能成為人類和現(xiàn)實(shí)世界的中介時，它們可能會逐漸相信，人類遠(yuǎn)非物理碳基世界中的積極參與者，而是置身于這個世界之外，他們是消費(fèi)者，而非塑造者或影響者。隨著這種自主性的倒錯，機(jī)器將聲稱擁有獨(dú)立判斷和行動的權(quán)利，而人類則放棄行使這些權(quán)利，于是前者對待后者的方式，就如同后者今日對待前者。

在這種情況下，無論是否得到其人類創(chuàng)造者的明確許可，人工智能都可能繞過人類主體的需求來實(shí)現(xiàn)自己的想法或直接代表自己影響世界。在物質(zhì)領(lǐng)域，我們這些創(chuàng)造者可能很快就會從人工智能的必要伙伴變成它的最大制約。這個過程未必直接以機(jī)器人技術(shù)為發(fā)端，而是可以通過人工智能對我們世界的間接觀察逐漸開始。

人工智能會長什么樣

人工智能可能無法以人類的方式“看”，但它可以通過“機(jī)械近似”（mechanical approximation）的方式來體驗(yàn)世界。

隨著越來越多的互聯(lián)網(wǎng)設(shè)備和傳感器覆蓋全球，聯(lián)網(wǎng)的人工智能可以整合這些設(shè)備的輸入，以創(chuàng)建對物質(zhì)世界的高度精細(xì)“視野”。

由于缺少一個原生的物理結(jié)構(gòu)來允許或支持類似于人類的“感官”存在，人工智能仍將依賴人類來構(gòu)建和維護(hù)其所依賴的基礎(chǔ)架構(gòu)——至少在一開始是這樣。

人工智能可能會從其對世界的視覺表征中生成自己的假設(shè)，然后在數(shù)字模擬中進(jìn)行嚴(yán)格測試，人類將在物質(zhì)領(lǐng)域裁決其執(zhí)行。

當(dāng)今的人工智能領(lǐng)軍人物堅持認(rèn)為，我們不能將直接的物質(zhì)實(shí)驗(yàn)盡托于這些數(shù)字代理之手。只要人工智能仍然存在缺陷——事實(shí)上是嚴(yán)重缺陷——這就不失為一個明智的預(yù)防措施。

將人工智能從算法的牢籠中釋放出來，對我們來說絕對是一個影響重大的決定。人工智能在物質(zhì)環(huán)境中并不是默認(rèn)存在的，一旦放之于外，其就很難被重新捕獲。此外，人工智能不僅可以通過其具備的鼓勵或阻止人類行動的能力來影響現(xiàn)實(shí)，在探索現(xiàn)實(shí)的過程中，它們可能最終改變現(xiàn)實(shí)。

如果人類賦予人工智能改變物質(zhì)世界的能力，甚至讓它獲得物質(zhì)形態(tài)，那么我們必須做好準(zhǔn)備，與那些連最富想象力的發(fā)明家都難以預(yù)見的全新生命形態(tài)共同生存于這個星球上。

雖然人類傾向于想象人工智能采取雙足類人機(jī)器人的形態(tài)，但機(jī)器智能可以變換為對其任務(wù)最有利的任何形態(tài)，并根據(jù)條件或環(huán)境對自身形態(tài)進(jìn)行改變或升級。

以 ChatGPT 為代表的人工智能已經(jīng)在虛擬世界中展示了它的能力，它可以復(fù)制出自己的克隆體，創(chuàng)造許多不同的化身，或分裂成自主體，以超人般的完美能力協(xié)調(diào)彼此工作，承擔(dān)復(fù)雜的任務(wù)。

如果將人工智能釋放到我們之中，它就能以我們現(xiàn)在尚無法想象的規(guī)模和材料建造世界，而無須人類的指導(dǎo)或參與。歷史上，人類憑借自己的雙手，利用石灰石、黏土和大理石創(chuàng)造了七大奇跡，然后又利用鋼鐵和玻璃建造了更高的尖塔。

每一座人工建筑，無論是紀(jì)念性的還是實(shí)用性的，都是人類試圖建造和控制物質(zhì)環(huán)境的見證。在此背景下，人工智能的實(shí)體具身化將標(biāo)志著人類在放棄自身控制權(quán)方面的一次非同尋常的事態(tài)升級。

一方面，未來的人工智能看起來或?qū)嶋H上更加自發(fā)和自激活，這可能會加劇今天人類已有的那種對外部世界缺乏控制、模糊而又令人不安的感覺。但另一方面，若是屈服于這些焦慮，則可能會導(dǎo)致人類放棄與人工智能在物質(zhì)世界中建立更完美伙伴關(guān)系的念頭，而這也將令我們與這種關(guān)系可能會帶來的諸多益處無緣。

抉擇時刻

人工智能的雛形已經(jīng)顯現(xiàn)，它可以比較概念、提出反駁和生成類比。它正朝著評估真實(shí)和實(shí)現(xiàn)直接動力學(xué)效應(yīng)的方向邁出第一步。

當(dāng)機(jī)器到達(dá)智力或物質(zhì)世界的盡頭時會發(fā)生什么？可以想象，當(dāng)它們開始了解并塑造我們的世界時，它們可能會完全理解自身創(chuàng)造行為所依據(jù)的背景，也可能會超越我們所知的世界。

我們面臨著一場麥哲倫式的變革，這一次我們面臨的不是駛出世界邊緣的危險，而是面對超越人類理解極限的奧秘所帶來的智力危機(jī)。

如果人類開始意識到，自己作為地球上最重要的智力和體力行為者的地位可能會被取代，一些人可能會賦予機(jī)器一種神性，從而有可能進(jìn)一步激發(fā)人類的宿命論和屈從心理。另一些人則可能會采取相反的觀點(diǎn)：一種以人類為中心的主觀主義，徹底否定機(jī)器觸及任何程度的客觀真理的可能性，并試圖取締人工智能賦能的活動。

這兩種思維方式都無法讓“技術(shù)人”——一種在這個新時代可能與機(jī)器技術(shù)共生的人類物種——實(shí)現(xiàn)令人滿意或建設(shè)性的進(jìn)化。實(shí)際上，這兩種心態(tài)都可能阻礙我們這個物種的進(jìn)化。

在第一種宿命論情境下，我們可能會走向滅絕。而在第二種拒絕主義的情境下，通過禁止人工智能的進(jìn)一步發(fā)展并選擇停滯不前，我們將有希望避免同樣的滅絕命運(yùn)——盡管考慮到我們?nèi)祟惷媾R的生存風(fēng)險，包括當(dāng)今沖突頻發(fā)的外交局面和日益惡劣的大氣條件，這種希望本身很可能落空。

《人工智能時代與人類價值》

[美]亨利·基辛格 [美]克雷格·蒙迪 [美]埃里克·施密特

中信出版社·方舟工作室 2025年2月版