科學外史II（34）

20年前，庫茲韋爾（Ray Kurzweil）寫了一本暢銷書《奇點臨近》（The Singularity Is Near，2005），他使用的“奇點”一詞，在互聯(lián)網(wǎng)和人工智能業(yè)者中，在大眾媒體中，都留了下來。今年他又寫了一本《奇點更近》（The Singularity Is Nearer，2024），再次將“奇點”推送到大眾眼前。

奇點預言及其指標

所謂“奇點”，庫茲韋爾在《奇點臨近》中說這是他從數(shù)學和物理中借用來的詞匯。通常，奇點在數(shù)學上表示無法定義的點，比如在分母為零的情況下就會出現(xiàn)奇點；在物理上則被用來指那些在理論上物理定律將會失效的點，比如黑洞中心。沒想到現(xiàn)在“奇點”一詞火得有點要成“經(jīng)典”之勢，還進入了大眾媒體，所以他在《奇點更近》開頭又談論了一番：“我使用這個詞是將其作為一個比喻。我對技術奇點的預測并非指變化速度真的趨向無窮，因為指數(shù)增長并不意味著無限，物理學中的奇點也是如此。”

他這兩句從數(shù)學和物理中學舌來的理科黑話，仍然可以讓“文科小白”聽不明白，從而達到唬住他們的效果。其實庫茲韋爾的想法，用大白話來說很簡單：

技術進步（特別是和人工智能相關的那些技術進步）呈現(xiàn)出越來越快的趨勢，很快就將達到一個臨界點——奇點，在這個點上，人工智能將以極快的速度超越人類智慧，人類將面臨一個全新的世界。這個“技術奇點”的概念，庫茲韋爾說是他從一篇1986年的科幻小說中借來的。所以他對“奇點”的展望，并非建立在嚴密的數(shù)理論證基礎上，至多只是“定性研究”加上他個人的直覺所形成的推論。

那么怎樣才算奇點到達？有沒有較為具體的指標呢？庫茲韋爾確實嘗試給出了一些。他先從歷史回顧中歸納出“六大紀元”：1.物理與化學（指物質(zhì)世界誕生）；2.生物與DNA（生命誕生）；3.大腦；4.技術；5.人類智能與人類技術的結(jié)合（人機結(jié)合）；6.宇宙覺醒（庫茲韋爾對人類文明擴展到全宇宙的暢想）。

他認為人類目前處在第5紀元，這當然是在意料之中的。至于到達奇點的具體指標，他也舉出了一些，其中較能言之成理又確切可以驗證的有這樣三條：

（1）2010年能夠用超級計算機模擬人類智能。2020年能夠用個人計算機大小的設備模擬人類智能。

（2）2025年之前詳細了解大腦所有區(qū)域的活動過程及模式。2025年前后能夠用有效的軟件模擬人類智慧，并對其進行建模。

（3）計算機在2020年代（我們姑且理解為2029年）末通過圖靈測試——庫茲韋爾的意思是此時人工智能與人類智能將不再有任何區(qū)別。

20年后的“中期檢查”

在2005年的《奇點臨近》一書中，庫茲韋爾明確預言了奇點到達的年份——公元2045年。這個預言看上去似乎言之鑿鑿，有確切的年份，不那么模棱兩可，其實“人工智能大大超越人類”這樣的判據(jù)，仍然是很有“商量”余地的。

庫茲韋爾在《奇點臨近》中對奇點的展望和預測，據(jù)他自己在書中交代，完全是建立在技術持續(xù)實現(xiàn)“指數(shù)增長”這一前提上的。而在數(shù)學上，指數(shù)增長必然導向發(fā)散（無窮大，也即奇點）。但在現(xiàn)實生活中，這樣的指數(shù)增長還從未有過真正的實例。

2024年，《奇點臨近》出版已經(jīng)20年了。對于庫茲韋爾為期40年的“奇點”預言，正好過去了一半。經(jīng)常承擔研究項目的人都知道，當項目期限到一半時，“上面”或出錢資助項目的人，就要來搞“中期檢查”了，承擔項目的人就要提交“中期檢查報告”了。庫茲韋爾“奇點項目”的中期檢查報告，就是《奇點更近》這本書。

《奇點更近》

[美] 雷·庫茲韋爾 著 蘆義 譯

湛廬文化·中國財政經(jīng)濟出版社 2024年9月

我們看看庫茲韋爾上面預言的那三條：第1條，預言的年份早就過了，腦科學和計算機顯然都還遠未達到他預言的指標，庫茲韋爾明顯失敗。第2條，還剩一年，幾乎可以說已經(jīng)沒有指望了。第3條，最多還剩五年，由于“通過圖靈測試”本身的指標也有模糊性，到時候還有扯皮的余地，只有這條還不能斷言庫茲韋爾失敗。

對于奇點到來之后的世界，庫茲韋爾當然也有許多大膽的展望，要不他怎么能想象出上面的第6紀元——詳見《奇點臨近》第6章冗長的最后一節(jié)，這一節(jié)幾乎就是他的讀書報告，里面放進了星際航行、德雷克公式、平行宇宙、SETI行動（尋找外星文明）等等一大堆科普知識。不過他讀書總算是比較認真，檢查下來倒也并無錯誤。

在“中期檢查報告”《奇點更近》中，庫茲韋爾當然未提他預測的失敗，而是表示對于人工智能在2029年通過圖靈測試仍抱有信心。不過對于圖靈測試他又給出了新的說法：“值得注意的是，當AI系統(tǒng)真的通過圖靈測試時，它必須在很多領域內(nèi)故意表現(xiàn)得不那么聰明，否則人們將很容易識破……因此，達到通過圖靈測試的水平時，AI在大多數(shù)領域的能力將遠超最優(yōu)秀的人類。”這個說法倒是能夠言之成理。

其實大家都知道，預測危險，展望容易，庫茲韋爾當然也深諳此道，所以在《奇點更近》中，展望遠遠多于預測（盡管有時還會忍不?。?，這樣到2045年“結(jié)項驗收”時風險就小多了。書中有如下幾點比較值得注意：

承認AI的使用會導致失業(yè)，但仍持樂觀態(tài)度，認為“我們最終不會與AI競爭”。

相信人工智能將跨越“情緒記憶”“常識推理能力”“社交互動”這三個里程碑。

創(chuàng)造“來生”——借助一個人生前在賽博空間留下的全部信息，用生物技術和人工智能創(chuàng)造出與此人思想形貌完全一致的復制人。

2030年代，人類大腦將能連接到云（借助腦機接口）。

2030年前后，一部分人將達到“長壽逃逸速度”——他們“自此每過一年，剩余預期壽命就會增加一年”，這實際上就是永生。

暢銷書式的危機警告

作為“未來學”著作中相當成功的暢銷作品，《奇點臨近》《奇點更近》雖然都對未來抱著極為樂觀的態(tài)度，但也都對未來的某些危機前景表達了適度的憂慮和警告。

例如在《奇點臨近》中，庫茲韋爾對人工智能的學壞或反叛，表達了憂慮，認為人們所想到的大部分方法都不足以對付強人工智能的病變，而他能提出的策略也只是“最大程度上使得（人工智能）反映我們的價值觀，包括自由、寬容以及對知識多樣性的尊重”，他知道要解決這類問題，“純粹的技術策略是不可行的”。但在一本洋洋數(shù)十萬言的書中，這樣幾行有氣無力的警告，很容易被絕大多數(shù)讀者忽略。

到了《奇點更近》，在最后一章“我們將會面臨4個巨大危機”中，庫茲韋爾在以下問題上表達了他的憂慮：1.核武器依賴人工智能控制的危險前景；2.人工智能驅(qū)動生物技術前行的危險性；3.人工智能驅(qū)動納米技術前行的危險性；4.人工智能本身學壞或反叛的危險性。最后這個問題仍然是最嚴重的。

庫茲韋爾帶著預測問了一個較有深度的問題：“到21世紀30年代后期，我們的思維本身將在很大程度上是非生物學的，那么……人類決策的作用何在？”具體年份當然無所謂，危險的是，如果我們對人工智能越來越依賴，早晚會有那一天，人類不得不將決策權(quán)交給人工智能，而這恐怕就是人類的末日了。