1

當(dāng)下，大模型表現(xiàn)出了智能涌現(xiàn)的能力，很多人認(rèn)為，5年內(nèi)，可以涌現(xiàn)出來一個(gè)有自由意志的版本。

OpenAI的首席科學(xué)家伊利亞表示：ChatGPT可能擁有自我意識(shí)。被譽(yù)為AI教母的李飛飛則表示，大模型不存在主觀感覺能力，多少億參數(shù)都不行。

很多人可能覺得，那么多大咖都在爭(zhēng)論，你憑什么來說。

且聽我慢慢說來。

或者有人會(huì)說，人可以感知肚子餓，機(jī)器人也可以知道自己電量不足，掃地機(jī)器人都會(huì)在電量不足的時(shí)候，主動(dòng)去充電。但這不是“主觀感覺”嗎？

他們爭(zhēng)論的是感知，一種主觀的感覺。討論這個(gè)問題，或許真需要一點(diǎn)“佛性”。

你閉上眼，感受微風(fēng)吹過，感受一下自己的自我意識(shí)，或者說“靈魂”，是不是在雙眼之后，鼻子上面一點(diǎn)的地方？這就是所謂的“眼觀鼻，鼻觀心”。所謂“我思故我在”的感知。

對(duì)人工智能來說，可以安裝傳感器。如果有一個(gè)大模型操控的機(jī)械臂，上面有傳感器，機(jī)械臂靠近火源，傳感器會(huì)感覺到熱，這個(gè)信號(hào)會(huì)傳遞一個(gè)熱的Prompt，大模型會(huì)說，“我差點(diǎn)燙到了”，然后縮回手臂。這都是現(xiàn)實(shí)的技術(shù)。

但是，大模型真的感到了熱和痛嗎？它只是從它收集到的語料中發(fā)現(xiàn)，熱對(duì)應(yīng)這句話。

或者，大模型的服務(wù)器里有傳感器，它會(huì)開玩笑，“你的這個(gè)問題，讓我激動(dòng)得CPU都燒熱了”。但它真的有喜怒，真的能感受到CPU的熱嗎？

2

這是哲學(xué)史上的經(jīng)典問題。

計(jì)算機(jī)之父，在上世紀(jì)50年代就研究過“機(jī)器能否思考”這個(gè)問題，并提出了圖靈實(shí)驗(yàn)。圖靈認(rèn)為，如果一臺(tái)機(jī)器在感知方面表現(xiàn)得跟人完全一樣，那么，從本體論層面，去爭(zhēng)論它到底有沒有主觀感知，就沒有意義，我們就把它當(dāng)作有主觀感知就可以了。

簡(jiǎn)單地說，圖靈認(rèn)為，有沒有無所謂，足夠像就有了。這也是圖靈實(shí)驗(yàn)的原理。

AI的過程，其實(shí)可以全部換為蒸汽機(jī)和機(jī)械開關(guān)，那么一個(gè)巨大的蒸汽機(jī)，咔咔轉(zhuǎn)動(dòng)的機(jī)械，會(huì)是活的嗎？

一支筆無數(shù)稿紙，理論上都可以重現(xiàn)AI的過程。雖然這個(gè)過程時(shí)間會(huì)耗費(fèi)很長(zhǎng)很長(zhǎng)。那么，這個(gè)過程會(huì)產(chǎn)生意識(shí)嗎？對(duì)于這個(gè)問題，我前幾年認(rèn)為，不能?，F(xiàn)在我的想法有了一些改變，工藝，可能很重要。

也就是說，一秒能寫100億個(gè)字的筆，和一秒只能寫一個(gè)字的筆，可能的確會(huì)產(chǎn)生本質(zhì)的不同。像星球一樣大的，蒸汽機(jī)推動(dòng)的，一秒只能運(yùn)行1000次的計(jì)算機(jī)，和4納米的一秒運(yùn)行100億次的計(jì)算機(jī)，會(huì)產(chǎn)生本質(zhì)的不同。

意識(shí)是達(dá)到某個(gè)復(fù)雜度的信息處理系統(tǒng)的涌現(xiàn)。自我、意義，都是復(fù)雜演化系統(tǒng)演化出來的適應(yīng)性“幻覺”。只要系統(tǒng)足夠復(fù)雜，的確可能涌現(xiàn)出意識(shí)。

但AI有意識(shí)和人類能觀測(cè)、確定AI有意識(shí)是兩回事。就像一個(gè)量子同時(shí)具有速度和位置，但人類不可能同時(shí)觀測(cè)到。

AI是否會(huì)產(chǎn)生“自由意志”，比這個(gè)更基礎(chǔ)的問題是，AI是否有“自我意識(shí)”，而“自我意識(shí)”的下一層是“意識(shí)”“感覺”。只有當(dāng)AI有“感覺”之后，才有可能有“自我意識(shí)”“自由意志”。

類比的就是植物沒有感覺，昆蟲、爬行動(dòng)物可能有“感覺”，高等哺乳動(dòng)物有“自我意識(shí)”，而人類則討論“自由意志”。意識(shí)是一切的基礎(chǔ)。

其實(shí)，自由意志是什么，自我意識(shí)是什么，意識(shí)是什么，可能永遠(yuǎn)沒有標(biāo)準(zhǔn)答案。別說證明機(jī)器有，一個(gè)人要證明另一個(gè)人有感覺都很難。

這個(gè)問題看起來是，人有感覺，但要由人類到機(jī)器，從碳基到硅基去探索機(jī)器是否有感覺，遇到了困難，產(chǎn)生了爭(zhēng)議。但其實(shí)，真正困難的地方，并不在于這個(gè)過程。而是人的感覺本身。

3

人有意識(shí)嗎？一個(gè)人可以自知自己有意識(shí)，但怎么知道他人有意識(shí)？這不是一個(gè)不言自明的真理。

人判斷另一人是否有意識(shí)，推導(dǎo)過程是：我能確定自己的存在，我有意識(shí)，我有大腦；他有大腦，他也有意識(shí)。這個(gè)推理過程，并不嚴(yán)密。因?yàn)槿祟惒恢来竽X是如何產(chǎn)生意識(shí)的。

人覺得，除了自己之外的人類都有感覺、有意識(shí)，這不是嚴(yán)密的邏輯，而是經(jīng)驗(yàn)主義的推己及人。

拋開缸中之腦這些假設(shè)，一個(gè)人不難確定自己是存在的，但他怎么確定周圍的人是有意識(shí)的呢？或者他接入的是一個(gè)巨大的虛擬游戲，自己的親朋好友都是NPC，即電腦控制的角色。

反過來，在其他人意識(shí)中，也無法確定你是不是一個(gè)NPC。

這是因?yàn)橐庾R(shí)具有不可觀測(cè)性與私有性。

一個(gè)人永遠(yuǎn)無法知道另一個(gè)人是否真正有感知。討論這個(gè)問題前，先討論一個(gè)準(zhǔn)備性的問題：你看到的紅色和別人看到的紅色一樣嗎？你眼中的紅色，和我眼中的紅色，是一樣的嗎？

由于生理性或病理性原因，一個(gè)人的兩只眼睛，可能會(huì)有輕微的色差。色彩簡(jiǎn)單地說，深一些、淺一些。白色，可能黃一些、藍(lán)一些。兩只眼睛通向同一個(gè)大腦，這很容易被感知到。你現(xiàn)在就可以試試。

所以，不同眼睛看到的顏色是不一樣的。那么，一個(gè)人看到的顏色色溫更高，比如，一般人眼中6500K的白色，在他眼中實(shí)際上和一般人7000K的白色差不多。他永遠(yuǎn)無法知道這個(gè)差別，也無法告知?jiǎng)e人這個(gè)差別，因?yàn)樗麤]有辦法把腦子里的東西摳出來，給別人看。

色盲、色弱，是通過比較的方式“外化”為可以表述的東西。比如，分不清綠色和紅色，那么，綠色方塊中的紅字，你就不能分辨。但有些差異，是無法外化的。推到極端，你永遠(yuǎn)無法知道另一個(gè)腦中的紅色，到底是什么樣子的。

打個(gè)比方，我們眼中的紅色，在某個(gè)人眼中，很可能是綠色。但這不會(huì)影響他的生活。當(dāng)他年幼時(shí)，老師指著一張圖片告訴他，這是紅色，紅色這個(gè)詞，這個(gè)感覺，就和他腦中的那個(gè)顏色建立了一一對(duì)應(yīng)關(guān)系。

顏色深淺，是一個(gè)最簡(jiǎn)單的感知，都無法通過嚴(yán)密的邏輯對(duì)應(yīng)，至于感知，這種東西，就更難了。人永遠(yuǎn)無法知道當(dāng)一只魚的感覺，哪怕是VR也只能模擬魚的視角，而無法模擬魚的感知。

現(xiàn)在流行所謂的生命上傳。假如生命上傳，傳完了，那個(gè)被上傳記憶塑造的人說，他有了你所有記憶、性格，他會(huì)覺得，自己已經(jīng)被上傳過來了，然后告訴工作人員，“你們可以殺死我原來的身體了”。

實(shí)驗(yàn)人員走過來說，我們要?dú)⑺滥恪Ｔ瓉淼哪?，也就是現(xiàn)在在看這篇文章的你，看著另外一個(gè)你，比你更年輕的你，一個(gè)“他者”。你接受自己被殺死嗎？

科幻小說中的瞬移門，如果是基于傳遞信息的，其實(shí)也是殺掉進(jìn)去的這一個(gè)，在另一處組合一個(gè)。那么，你進(jìn)不進(jìn)？

實(shí)際上，一個(gè)人甚至都沒辦法證明，現(xiàn)在自己的自我意識(shí)，就是過去自己的自我意識(shí)。人都覺得自己的意識(shí)是穩(wěn)定的，20年前的小孩，和現(xiàn)在的自己，是共有一個(gè)意識(shí)的。這種意識(shí)的穩(wěn)定性，是虛假的嗎？

今日之我是昨日之我嗎？所有人類覺得自己一直存在，對(duì)意識(shí)的連貫性的肯定，其實(shí)緣于身體的連貫性。其實(shí)這也只是一種經(jīng)驗(yàn)，而非精確的邏輯。

早上，你醒過來，新的一天開始了。但這個(gè)時(shí)候的你，和那個(gè)剛剛被灌入意識(shí)的人，有什么區(qū)別呢？人無時(shí)無刻在進(jìn)行新陳代謝。過去的身體會(huì)變?yōu)槎趸?、尿素排出去，食物?huì)變?yōu)樾碌纳眢w。去年自己的“自我意識(shí)”可能已經(jīng)死掉了，現(xiàn)在的自己，不過繼承了去年自己的記憶而已。就像那個(gè)從生命上傳設(shè)備走下來的那個(gè)人。

4

這就是著名的忒修斯之船。

普魯塔克記載的古希臘傳說中，“忒修斯與雅典的年輕人們自克里特島歸還時(shí)所搭的30槳船被雅典的人留下來作為紀(jì)念碑，隨著時(shí)間過去，木材也逐漸腐朽，而雅典的人便會(huì)更換新的木頭來替代。最后，該船的每根木頭都被換過了。因此，古希臘的哲學(xué)家們就開始問：‘這艘船還是原本的那艘忒修斯之船嗎？如果是，但它已經(jīng)沒有最初的任何一根木頭了；如果不是，那它是從什么時(shí)候不是的’”。

哲學(xué)家Thomas Hobbes后來對(duì)此進(jìn)行了延伸——如果用忒修斯之船上取下來的老部件來重新建造一艘新的船，那么兩艘船中哪艘才是真正的忒修斯之船？

在證明今日之我是昨日之我之前，人無法證明他人有意識(shí)。在人類證明他人有意識(shí)之前，人無法證明AI是否有意識(shí)。

至于自我意識(shí)就更復(fù)雜了。一個(gè)自我意識(shí)和另一個(gè)自我意識(shí)的差別，是分子級(jí)別的，還是原子級(jí)別的，是組成兩個(gè)意識(shí)的特定原子不同，還是在宇宙中的絕對(duì)位置？

打個(gè)比方，如果意識(shí)是一個(gè)杯子的高度和直徑，哪怕精確到納米，人類可以造出兩個(gè)一模一樣的杯子。但如果是指特定的一組原子，則這個(gè)杯子就是唯一的。如果是后者，那永遠(yuǎn)不可能有一模一樣的杯子，就不可能有一模一樣的意識(shí)。

這就是意識(shí)的私有性，所謂意識(shí)上傳，就是破解意識(shí)的私有性。但人類還搞不清楚意識(shí)的產(chǎn)生機(jī)制，更不用說分清楚意識(shí)的私有性，實(shí)現(xiàn)上傳。

如果人類能證明、定義一個(gè)意識(shí)，意識(shí)就不再是私有的。這就是人類達(dá)成永生的這一天。但這一天可能永遠(yuǎn)無法到來，也就是說，AI的意識(shí)的確可能出現(xiàn)，但人類永遠(yuǎn)無法證明，就像人類也永遠(yuǎn)無法知道另一個(gè)人類是否有意識(shí)。

用一種科學(xué)的方法論說，無法感知、無法檢測(cè)的東西，就是沒有意義的。如果我們無法檢驗(yàn)世界是不是虛擬的，那么虛擬和非虛擬這個(gè)問題，就沒有意義，采納最簡(jiǎn)潔的設(shè)定，在此基礎(chǔ)上進(jìn)行研究、活動(dòng)、生產(chǎn)。

同類例子就是光速不變?cè)?。單向光速是不可測(cè)量的，因?yàn)樾畔⒉豢赡鼙裙馑俑?，人類只能測(cè)量往返光速。這就產(chǎn)生兩個(gè)假設(shè)，第一，光速往返速度不同，去的時(shí)候快，返回的時(shí)候慢；第二，往返光速都是一樣的。顯然，第二個(gè)假設(shè)更簡(jiǎn)單，于是采納最簡(jiǎn)單的那個(gè)：真空光速各向同性。

所以，如果現(xiàn)在要證明AI有意識(shí)，要有嚴(yán)密的邏輯。由于意識(shí)的無法觀測(cè)性、私有性，是很難去找到證據(jù)的。

爭(zhēng)論AI是否有意識(shí)，就像去爭(zhēng)論光速往返的速度是否一樣，是一個(gè)沒有意義的問題。

從經(jīng)驗(yàn)角度看，圖靈實(shí)驗(yàn)就夠了，計(jì)算機(jī)之父已經(jīng)解決了這個(gè)問題，不必再爭(zhēng)了。

（作者系上海金融與法律研究院研究員，專欄作家）

第一財(cái)經(jīng)獲授權(quán)轉(zhuǎn)載自微信公眾號(hào)“秦朔朋友圈”。