科學(xué)外史II（34）

20年前，庫茲韋爾（Ray Kurzweil）寫了一本暢銷書《奇點(diǎn)臨近》（The Singularity Is Near，2005），他使用的“奇點(diǎn)”一詞，在互聯(lián)網(wǎng)和人工智能業(yè)者中，在大眾媒體中，都留了下來。今年他又寫了一本《奇點(diǎn)更近》（The Singularity Is Nearer，2024），再次將“奇點(diǎn)”推送到大眾眼前。

奇點(diǎn)預(yù)言及其指標(biāo)

所謂“奇點(diǎn)”，庫茲韋爾在《奇點(diǎn)臨近》中說這是他從數(shù)學(xué)和物理中借用來的詞匯。通常，奇點(diǎn)在數(shù)學(xué)上表示無法定義的點(diǎn)，比如在分母為零的情況下就會出現(xiàn)奇點(diǎn)；在物理上則被用來指那些在理論上物理定律將會失效的點(diǎn)，比如黑洞中心。沒想到現(xiàn)在“奇點(diǎn)”一詞火得有點(diǎn)要成“經(jīng)典”之勢，還進(jìn)入了大眾媒體，所以他在《奇點(diǎn)更近》開頭又談?wù)摿艘环?ldquo;我使用這個詞是將其作為一個比喻。我對技術(shù)奇點(diǎn)的預(yù)測并非指變化速度真的趨向無窮，因?yàn)橹笖?shù)增長并不意味著無限，物理學(xué)中的奇點(diǎn)也是如此。”

他這兩句從數(shù)學(xué)和物理中學(xué)舌來的理科黑話，仍然可以讓“文科小白”聽不明白，從而達(dá)到唬住他們的效果。其實(shí)庫茲韋爾的想法，用大白話來說很簡單：

技術(shù)進(jìn)步（特別是和人工智能相關(guān)的那些技術(shù)進(jìn)步）呈現(xiàn)出越來越快的趨勢，很快就將達(dá)到一個臨界點(diǎn)——奇點(diǎn)，在這個點(diǎn)上，人工智能將以極快的速度超越人類智慧，人類將面臨一個全新的世界。這個“技術(shù)奇點(diǎn)”的概念，庫茲韋爾說是他從一篇1986年的科幻小說中借來的。所以他對“奇點(diǎn)”的展望，并非建立在嚴(yán)密的數(shù)理論證基礎(chǔ)上，至多只是“定性研究”加上他個人的直覺所形成的推論。

那么怎樣才算奇點(diǎn)到達(dá)？有沒有較為具體的指標(biāo)呢？庫茲韋爾確實(shí)嘗試給出了一些。他先從歷史回顧中歸納出“六大紀(jì)元”：1.物理與化學(xué)（指物質(zhì)世界誕生）；2.生物與DNA（生命誕生）；3.大腦；4.技術(shù)；5.人類智能與人類技術(shù)的結(jié)合（人機(jī)結(jié)合）；6.宇宙覺醒（庫茲韋爾對人類文明擴(kuò)展到全宇宙的暢想）。

他認(rèn)為人類目前處在第5紀(jì)元，這當(dāng)然是在意料之中的。至于到達(dá)奇點(diǎn)的具體指標(biāo)，他也舉出了一些，其中較能言之成理又確切可以驗(yàn)證的有這樣三條：

（1）2010年能夠用超級計(jì)算機(jī)模擬人類智能。2020年能夠用個人計(jì)算機(jī)大小的設(shè)備模擬人類智能。

（2）2025年之前詳細(xì)了解大腦所有區(qū)域的活動過程及模式。2025年前后能夠用有效的軟件模擬人類智慧，并對其進(jìn)行建模。

（3）計(jì)算機(jī)在2020年代（我們姑且理解為2029年）末通過圖靈測試——庫茲韋爾的意思是此時人工智能與人類智能將不再有任何區(qū)別。

20年后的“中期檢查”

在2005年的《奇點(diǎn)臨近》一書中，庫茲韋爾明確預(yù)言了奇點(diǎn)到達(dá)的年份——公元2045年。這個預(yù)言看上去似乎言之鑿鑿，有確切的年份，不那么模棱兩可，其實(shí)“人工智能大大超越人類”這樣的判據(jù)，仍然是很有“商量”余地的。

庫茲韋爾在《奇點(diǎn)臨近》中對奇點(diǎn)的展望和預(yù)測，據(jù)他自己在書中交代，完全是建立在技術(shù)持續(xù)實(shí)現(xiàn)“指數(shù)增長”這一前提上的。而在數(shù)學(xué)上，指數(shù)增長必然導(dǎo)向發(fā)散（無窮大，也即奇點(diǎn)）。但在現(xiàn)實(shí)生活中，這樣的指數(shù)增長還從未有過真正的實(shí)例。

2024年，《奇點(diǎn)臨近》出版已經(jīng)20年了。對于庫茲韋爾為期40年的“奇點(diǎn)”預(yù)言，正好過去了一半。經(jīng)常承擔(dān)研究項(xiàng)目的人都知道，當(dāng)項(xiàng)目期限到一半時，“上面”或出錢資助項(xiàng)目的人，就要來搞“中期檢查”了，承擔(dān)項(xiàng)目的人就要提交“中期檢查報(bào)告”了。庫茲韋爾“奇點(diǎn)項(xiàng)目”的中期檢查報(bào)告，就是《奇點(diǎn)更近》這本書。

《奇點(diǎn)更近》

[美] 雷·庫茲韋爾 著 蘆義 譯

湛廬文化·中國財(cái)政經(jīng)濟(jì)出版社 2024年9月

我們看看庫茲韋爾上面預(yù)言的那三條：第1條，預(yù)言的年份早就過了，腦科學(xué)和計(jì)算機(jī)顯然都還遠(yuǎn)未達(dá)到他預(yù)言的指標(biāo)，庫茲韋爾明顯失敗。第2條，還剩一年，幾乎可以說已經(jīng)沒有指望了。第3條，最多還剩五年，由于“通過圖靈測試”本身的指標(biāo)也有模糊性，到時候還有扯皮的余地，只有這條還不能斷言庫茲韋爾失敗。

對于奇點(diǎn)到來之后的世界，庫茲韋爾當(dāng)然也有許多大膽的展望，要不他怎么能想象出上面的第6紀(jì)元——詳見《奇點(diǎn)臨近》第6章冗長的最后一節(jié)，這一節(jié)幾乎就是他的讀書報(bào)告，里面放進(jìn)了星際航行、德雷克公式、平行宇宙、SETI行動（尋找外星文明）等等一大堆科普知識。不過他讀書總算是比較認(rèn)真，檢查下來倒也并無錯誤。

在“中期檢查報(bào)告”《奇點(diǎn)更近》中，庫茲韋爾當(dāng)然未提他預(yù)測的失敗，而是表示對于人工智能在2029年通過圖靈測試仍抱有信心。不過對于圖靈測試他又給出了新的說法：“值得注意的是，當(dāng)AI系統(tǒng)真的通過圖靈測試時，它必須在很多領(lǐng)域內(nèi)故意表現(xiàn)得不那么聰明，否則人們將很容易識破……因此，達(dá)到通過圖靈測試的水平時，AI在大多數(shù)領(lǐng)域的能力將遠(yuǎn)超最優(yōu)秀的人類。”這個說法倒是能夠言之成理。

其實(shí)大家都知道，預(yù)測危險(xiǎn)，展望容易，庫茲韋爾當(dāng)然也深諳此道，所以在《奇點(diǎn)更近》中，展望遠(yuǎn)遠(yuǎn)多于預(yù)測（盡管有時還會忍不?。@樣到2045年“結(jié)項(xiàng)驗(yàn)收”時風(fēng)險(xiǎn)就小多了。書中有如下幾點(diǎn)比較值得注意：

承認(rèn)AI的使用會導(dǎo)致失業(yè)，但仍持樂觀態(tài)度，認(rèn)為“我們最終不會與AI競爭”。

相信人工智能將跨越“情緒記憶”“常識推理能力”“社交互動”這三個里程碑。

創(chuàng)造“來生”——借助一個人生前在賽博空間留下的全部信息，用生物技術(shù)和人工智能創(chuàng)造出與此人思想形貌完全一致的復(fù)制人。

2030年代，人類大腦將能連接到云（借助腦機(jī)接口）。

2030年前后，一部分人將達(dá)到“長壽逃逸速度”——他們“自此每過一年，剩余預(yù)期壽命就會增加一年”，這實(shí)際上就是永生。

暢銷書式的危機(jī)警告

作為“未來學(xué)”著作中相當(dāng)成功的暢銷作品，《奇點(diǎn)臨近》《奇點(diǎn)更近》雖然都對未來抱著極為樂觀的態(tài)度，但也都對未來的某些危機(jī)前景表達(dá)了適度的憂慮和警告。

例如在《奇點(diǎn)臨近》中，庫茲韋爾對人工智能的學(xué)壞或反叛，表達(dá)了憂慮，認(rèn)為人們所想到的大部分方法都不足以對付強(qiáng)人工智能的病變，而他能提出的策略也只是“最大程度上使得（人工智能）反映我們的價值觀，包括自由、寬容以及對知識多樣性的尊重”，他知道要解決這類問題，“純粹的技術(shù)策略是不可行的”。但在一本洋洋數(shù)十萬言的書中，這樣幾行有氣無力的警告，很容易被絕大多數(shù)讀者忽略。

到了《奇點(diǎn)更近》，在最后一章“我們將會面臨4個巨大危機(jī)”中，庫茲韋爾在以下問題上表達(dá)了他的憂慮：1.核武器依賴人工智能控制的危險(xiǎn)前景；2.人工智能驅(qū)動生物技術(shù)前行的危險(xiǎn)性；3.人工智能驅(qū)動納米技術(shù)前行的危險(xiǎn)性；4.人工智能本身學(xué)壞或反叛的危險(xiǎn)性。最后這個問題仍然是最嚴(yán)重的。

庫茲韋爾帶著預(yù)測問了一個較有深度的問題：“到21世紀(jì)30年代后期，我們的思維本身將在很大程度上是非生物學(xué)的，那么……人類決策的作用何在？”具體年份當(dāng)然無所謂，危險(xiǎn)的是，如果我們對人工智能越來越依賴，早晚會有那一天，人類不得不將決策權(quán)交給人工智能，而這恐怕就是人類的末日了。