（本文作者王煜全，海銀資本創(chuàng)始合伙人）

 

最近，全球知名的科技雜志《麻省理工科技評論》（MIT Technology Review）發(fā)表了一篇關(guān)于AI的文章，引起了我的關(guān)注。文章報道了AI初創(chuàng)公司Altera的一項名為“Sid”的創(chuàng)新實驗。該實驗中，有多達1000個使用AI大模型的軟件代理（我們也可稱之為智能體）同時進行交互。

Altera公司將這支AI大軍部署到了沙盒視頻游戲《我的世界》（Minecraft）之中。在沒有過多人為干預(yù)的情況下，這些智能體開始結(jié)交朋友、相互合作，發(fā)展出了非正式的聯(lián)盟。

其中一些智能體還成為了領(lǐng)導(dǎo)者，而其他智能體則被動接收指令，而且這種分化是智能體們自發(fā)形成的。此外，它們還分化出了不少工作，反映了人類社會中勞動分工的現(xiàn)象。最不可思議的是，智能體們還發(fā)展出了一種被戲稱為“飛天面條教”的信仰系統(tǒng)，并影響著它們的行為和決策。

初看這個新聞，不禁會讓人驚呼，莫非AI要創(chuàng)造自己的文明了？不過，根據(jù)MIT的文章，這些智能體的行為雖然逼真，但只是因為它們從AI大模型中學(xué)習(xí)到了人類的模式，它們并不具備真正的意識和情感。不過隨著“Sid”項目的不斷推進，我們可以繼續(xù)觀察它們會帶來什么驚喜或驚嚇。

“Sid”項目的發(fā)起人楊光宇（Robert Yang）也值得一提。他曾在北京大學(xué)獲得物理學(xué)學(xué)士學(xué)位，并在紐約大學(xué)和耶魯大學(xué)求學(xué)，獲得計算神經(jīng)科學(xué)博士學(xué)位，之后他成為了麻省理工學(xué)院腦與認(rèn)知科學(xué)系和電子工程與計算機科學(xué)系的助理教授。

去年，他從麻省理工學(xué)院離職，創(chuàng)立了Altera，并開始了“Sid”項目。他們的目標(biāo)是構(gòu)建模型以量化人類的情感、目標(biāo)設(shè)定、同理心、需求、欲望等特質(zhì)。這些工作也受到了投資界的認(rèn)可，先后得到了a16z、谷歌前CEO埃里克·施密特等人的共計1100萬美元投資。

“Sid”項目也讓我們再次思考人類通往通用人工智能（AGI）的道路。

最近，Meta的首席人工智能科學(xué)家楊·勒昆（Yann LeCun）表示，通用人工智能將在未來十年內(nèi)實現(xiàn)。但他強調(diào)，這并不會靠AI大模型做到。他認(rèn)為AI大模型缺乏真正的理解能力，而是通過統(tǒng)計模式來生成內(nèi)容；AI大模型對數(shù)據(jù)高度依賴，但數(shù)據(jù)本身可能存在偏差和偏見；而且AI大模型很難處理沒見過的問題，換言之，它們不具有創(chuàng)新的能力。

因此，他提出了“目標(biāo)驅(qū)動的人工智能”，強調(diào)明確的目標(biāo)導(dǎo)向，使AI能夠根據(jù)環(huán)境變化進行決策，并通過自主學(xué)習(xí)和試錯法不斷優(yōu)化其行為。

但我們認(rèn)為，這仍然沒有使AI打破“模仿人類”的局限性。

AI經(jīng)常讓人們感到非常創(chuàng)新，但那是“集思廣益”的結(jié)果。會有這種創(chuàng)新的感覺，是因為你從來沒見過這些事物，但本質(zhì)它們上還是人類的創(chuàng)造，而不是AI的原創(chuàng)。

然而，要實現(xiàn)通用人工智能，離不開真正原創(chuàng)的創(chuàng)新。這意味著AI必須跳出人類已有的數(shù)據(jù)框架，創(chuàng)造新的數(shù)據(jù)、行為和決策。也就必然帶來一個新問題——這些創(chuàng)新中的絕大部分可能是錯誤的，甚至是有危險的。

回顧科技發(fā)展史就會發(fā)現(xiàn)，不僅是AI，人類的創(chuàng)新過程中也充滿著謬誤。比如，18世紀(jì)的燃素學(xué)說曾風(fēng)靡歐洲科學(xué)界，科學(xué)家們認(rèn)為燃燒是物體釋放“燃素”的過程，直到18世紀(jì)70年代氧氣的發(fā)現(xiàn)，這一學(xué)說才被破解。

有的創(chuàng)新還極具危險性。20世紀(jì)中葉，美國廣泛采用“腦葉切除術(shù)”來治療精神疾病，卻導(dǎo)致許多患者在手術(shù)后變得喪失了理智、如同行尸走肉一般。

但是，要創(chuàng)新，又必然伴隨著大量的錯誤，怎么辦呢？

因此，一個基于人類理性的、“去偽存真”的過程必不可少。自然科學(xué)領(lǐng)域已經(jīng)形成了對研究結(jié)果比較嚴(yán)謹(jǐn)?shù)呐袛喾椒?，即實驗驗證、同行評議、科學(xué)共同體驗證的流程。當(dāng)然，這仍然很難完全杜絕謬誤的產(chǎn)生，而且這一流程在社會科學(xué)領(lǐng)域的應(yīng)用還面臨著許多困難。

我們之所以解釋這么多，是想讓大家理解，人類智能的強大之處恰恰在于“群體”二字。

因此，AI的下一階段應(yīng)當(dāng)是“群體智能”。也就是說，大量AI智能體，不僅能提出原創(chuàng)的概念和規(guī)律，還能以理性方式對其進行表達和驗證，進行“去偽存真”，從而得出接近真理的新概念和新規(guī)律。

現(xiàn)在看，這種趨勢已經(jīng)逐漸顯現(xiàn)。“Sid”項目中的智能體已經(jīng)開始了溝通交流，并做出了群體決策。未來，如果科學(xué)家能讓它們對未知領(lǐng)域進行探索和試錯，并自行進行探討、驗證和總結(jié)歸納，我們或許就會見證具有原創(chuàng)能力的智能體群體出現(xiàn)。屆時，AI將真的學(xué)習(xí)到人類最本質(zhì)的優(yōu)勢，步入“群體智能”階段。

當(dāng)然，或許有人又會開始擔(dān)心AI威脅人類了。我們認(rèn)為，在很長一段時間里，其實是人和AI相互協(xié)作的階段。

未來世界不是人與AI智能體的競爭，而是人與AI智能體混合組隊，與其他混合組隊的競爭。就像我們常打的比方，最精彩的足球賽不是各個國家隊的比賽，而是優(yōu)秀的俱樂部隊之間的比賽。

不過，真正要通過群體智能體實現(xiàn)通用人工智能，可能是10年之后的事情了，也就是說，楊·勒昆還沒找到通往通用人工智能之路，就斷言通用人工智能會在10年內(nèi)實現(xiàn)，對此我們并不認(rèn)同。

但不能實現(xiàn)通用人工智能不意味著沒有價值?，F(xiàn)在，AI已經(jīng)在很多專項領(lǐng)域展現(xiàn)了強大的與人協(xié)同的能力，也有了巨大的市場潛力。如協(xié)助醫(yī)生診斷疾病、幫助科學(xué)家預(yù)測蛋白質(zhì)折疊方式并設(shè)計新的藥物等等。未來，AI甚至還將與研究者們繼續(xù)加深協(xié)作，在前沿領(lǐng)域的科學(xué)研究中發(fā)揮更大作用。這些無疑都將給人類帶來巨大福祉，而不是威脅?？梢灶A(yù)計，在未來的幾十年內(nèi)，在AI的協(xié)助下，人類可以解鎖難以想象的、繁榮美好的未來。

 

（本文僅代表作者個人觀點）