機器學筆記

---

1哥德爾的“魅影”

奧本海默不僅開啟了核爆時代，也開啟了智能機器時代。他的頭號數(shù)學主管約翰·馮·諾伊曼，就是現(xiàn)代計算機架構的奠基人，并且在曼哈頓計劃后期，實際上已經開始引入可編程的機電計算機，以進行數(shù)量龐大的運算。

電影《奧本海默》可以有很多詮釋的視角，倫理的、政治的、科學的，而我個人最大的興趣點，則來自一個很可能被大多數(shù)人忽視的細節(jié)。這個細節(jié)的前因因為進入了預告片，實際上很引人注目：愛德華·泰勒——后來的“氫彈之父”——的計算結果顯示，核爆有可能引發(fā)大氣層的鏈式反應，從而瞬間毀滅地球。奧本海默帶著巨大的問號飛去普林斯頓，征詢愛因斯坦的意見。此時，愛因斯坦正與一個黑衣人在林中散步，他隨口向奧本海默介紹：這是庫爾特·哥德爾。哥德爾應了句很飄忽的話：樹木可以帶來靈感。奧本海默隨即將愛因斯坦拉到一邊談起了正事，而哥德爾被晾在了鏡頭外。哦不，在此以前專門給了他一個鏡頭：哥德爾微微抬頭望著樹梢若有所思。這是這部節(jié)奏極快的電影里，除了主人公之外，那么多角色（他們都是科學史上舉足輕重的人物）里唯一給予一個抒情性鏡頭的人物，雖然只是驚鴻一瞥。

為什么哥德爾必須在這里出現(xiàn)?僅僅為了展示一下晚年愛因斯坦的朋友圈，以及奧本海默對數(shù)學不那么在行（如泡利所說，他的計算幾乎總是錯的），所以忽略了在世最偉大的數(shù)學家和數(shù)理邏輯學家（我懷疑要不要加上之一）?

當然不是，哥德爾必須出現(xiàn)，是因為哥德爾不完備性定理，它和海森堡（也就是電影里反復提到的納粹德國核計劃領導人）的不確定性原理一起，分別從數(shù)學和物理學上顛覆了牛頓的線性宇宙。

核爆有可能引發(fā)大氣層鏈式反應這件事，實際上最終也沒有解決——直到按下試爆按鈕前那一刻，格萊夫斯還半開玩笑地懇請奧本海默“最好別把地球炸掉”——只是重新計算之后，發(fā)現(xiàn)這種可能性“近乎零”，于是人們選擇忽略它。但顯然，“近乎零”不等于零，再微乎其微的可能性依然是可能性。這里實際上已經觸及了現(xiàn)代科學世界觀的核心：世界的實在是統(tǒng)計學意義上的，而非確定性意義上的，換句話說，一切都基于概率。

奧本海默的事業(yè)，本質上是制造受控核裂變，但問題是，核裂變在多大的概率上是受控的——計算無法排除它最終失控的可能性。對確定性的渴求，是奧本海默飛向愛因斯坦的原因，因為面對自己開創(chuàng)的量子力學及其導致的不確定性，愛因斯坦曾痛苦卻堅決地表示：上帝不會擲骰子。奧本海默需要愛因斯坦給予他信心，但愛因斯坦已經給不出了，因為他身邊多了一位黑衣的靡菲斯特——哥德爾。哥德爾從數(shù)學基礎上，比海森堡更雄辯地向愛因斯坦證明了那個可以從一套公理系統(tǒng)出發(fā)完全徹底地加以研究并予以證明的客觀宇宙并不存在，確定性的世界就此分崩離析。

2左翼與確定性

奧本海默戰(zhàn)后之所以受到麥卡錫主義的噬咬，其中很大一個原因是身邊幾乎被曾經的共產黨人所環(huán)繞：妻子、弟弟、弟媳、前女友兼后來的情人、關系密切的好友、看重的學生……青年時代的奧本海默本人當然也是個左翼愣頭青，雖沒入黨，但至少是美共所代表的激進左翼的“同路人”——當然美共所謂激進在蘇共看來根本是小菜一碟，完全可以給他們戴頂“右傾機會主義”的帽子。

奧本海默的“左”，顯然與對底層階級的同情無關（最鮮明的例子是他對女招待出身的弟媳的蔑視），而是與他對確定性的追尋分不開的。電影一開始集中描繪的，就是青年時代的他對可見世界之外那個“隱秘的宇宙”的惶惑甚至恐懼，這是他狂熱地投入科學探索的根本動力。

那個時代，對科學界影響最大的思潮，是源于維特根斯坦和維也納小組的邏輯實證主義，而有趣的是，曾被蘇聯(lián)大批特批“資產階級哲學”的邏輯實證主義，其成員實際上多是激進左派——作為“先知”的維特根斯坦，后期哲學受其摯友、英國馬克思主義經濟學家保羅·斯拉法的影響頗大；至于維也納小組，其核心成員的政治立場，用卡爾納普的話來說，“大多數(shù)人，包括我自己，都是社會主義者”，比如奧托·紐拉特，維也納小組創(chuàng)始人之一，1919年曾在德國革命中擔任巴伐利亞蘇維埃共和國政府經濟部長，所以他們也被稱作“左翼維也納學派”。像石里克、哥德爾——對，愛因斯坦身邊那位“靡菲斯特”也曾是維也納小組的一員——這種溫和中間派雖然受尊重，但對大多數(shù)成員的激進傾向也無可奈何。而且哥德爾雖然不參與激進運動，但也表達過對社會主義理想的同情——這是他和愛因斯坦散步時的話題之一，愛因斯坦在政治上可比哥德爾激進多了。

哲學上對邏輯分析的推崇，到底是通過怎樣的途徑，導向政治上的社會主義信仰的?關鍵就在于對確定性的追求。

眾所周知，海德格爾在希特勒上臺后一度對納粹輸誠。但這段時間為期很短，很快他就辭去了大學校長的職務，轉而集中火力狠批以“計算/算計”為核心特征的技術至上主義，從而在思想上將納粹德國、蘇聯(lián)和美國——以及被視作它們的歷史先導的羅馬和猶太——一網打盡。因此海德格爾一再被人詬病的反猶主義，底色其實是反“世界圖像時代”、反技術霸權。最晚自1940年代初開始，其反猶就是反羅馬、反蘇、反美以至隱蔽地反納粹德國的“近義詞”。這是他與卡爾納普在哲學上就邏輯地位所進行的激烈爭論的政治根源。

與海德格爾正相反，卡爾納普、紐拉特等人對數(shù)理邏輯的極端推崇，很大程度上是建立在20世紀早期歐美社會主義運動對技術的政治經濟后果的近乎盲目的樂觀主義之上的——可以對比意大利未來主義對技術的崇拜與他們的法西斯傾向之間的關系。邏輯的必然性和社會主義的計劃性，是一個確定性的世界的一體兩面。技術的高度發(fā)展使得計劃經濟成為可能，而計劃經濟正是建立在確定性之上——沒有對未來的確定的預測，如何預先制訂可信又可行的計劃？

而與維也納小組針鋒相對的，正是另一個以維也納為中心舞臺的學派，即經濟學上著名的“奧派”——奧地利學派。暫且不論奧派中更“大牌”的老門格爾、龐巴維克、米塞斯等人，單以其中最有名的“小字輩”哈耶克為例，他之所以激烈反對計劃經濟，根本理由是：只有將經濟體系的一切數(shù)據(jù)信息都匯集到中央計劃者的計算之中，才可能做出恰當?shù)臎Q策，但這一數(shù)據(jù)信息收集的任務已大大超出人類的能力；即便收集到了這么多數(shù)據(jù)，每一個具體的決策，實際上都要根據(jù)一堆聯(lián)立微分方程的解來做出，就算是對當時最先進的技術手段，包括早期的通用計算機，這都是不可能完成的任務——就像奧本海默和他帳下全世界最優(yōu)秀的數(shù)學家們都無法對核爆究竟受控還是失控的問題求出確定的解。

當然，從另一個角度說，哈耶克的責難盡管理論上頗為有力，但從實踐上看，其條件性限定未免太嚴苛了，奧本海默可以在無法求出確定的解的時候，憑借概率來賭一把運氣，并且賭贏了；計劃經濟同樣可以像著名的波蘭經濟學家奧斯卡·蘭格在反駁米塞斯的時候指出的，通過一系列的試錯——本質上就是一個個小賭局——來模擬市場價格機制，從而部分地分攤中央計劃者不堪的重負。這大概是最早關于“社會主義市場經濟”可能性的論述了。

但無論如何，至少在當時——20世紀中葉——的技術條件下，哈耶克是更雄辯的那一個。確定性的世界觀正在各個領域崩潰，即便社會主義蘇聯(lián)也無法否認這一點——“冷戰(zhàn)”這種前所未有、似是而非、極其微妙、對雙方來說都波詭云譎前途叵測的戰(zhàn)爭形式，正是其最宏觀的展示。奧本海默這個頑固的確定性的追尋者——即便他是在一場賭局中完成了“三位一體”試驗——成為冷戰(zhàn)的第一批犧牲品，可以說是魔鬼找對了人。

有人認為奧本海默堅持出席必輸無疑的聽證會，是為了在十字架上自我救贖，這種倫理/宗教解讀有一定的道理，但我更認為，他恰恰是想用直面最激烈的、最不友善的質疑來獲得更強的自我確認，在核爆后全然不同的、完全失控的世界（他所賭對的原子彈本身的受控，相比之下只是一個微不足道的小Case）中，為自身重新贏取一個穩(wěn)固的錨位，雖然這注定是不可能完成的目標。

3亨普爾的悖論

哥德爾的不完備性定理，至少其中的第一定理，可以看作是對2000多年前古希臘人提出的那個著名的“說謊者悖論”（用最簡單的“人話”來說，就是：如果我說“我在說謊”，那么我是在說謊嗎？悖論在于：如果我說謊了，我就沒在說謊；如果我沒說謊，那么我就在說謊）進行的嚴格的形式化——事實上，引發(fā)第三次數(shù)學危機的羅素悖論，同樣是說謊者悖論在集合論上的形式化。

那么悖論僅僅是純邏輯問題嗎？或者擴大一些范圍，僅僅是認識論問題嗎?如果僅僅是邏輯問題，那么總歸有一定程度的解法，就像數(shù)學家們用正則公理去消解羅素悖論；那樣的話，晚年愛因斯坦也不至于如此氣餒，說自己之所以還留在普林斯頓，“只是為了有幸陪哥德爾一起散步”。

悖論的實質，是通過揭示一組預設中的內在矛盾，來提醒我們，我們并不像我們以為的那樣理解這些預設；這些預設不過是我們試圖用來捕捉和馴服那遠遠超越于我們的不可掌控的力量的極度簡化的模型。悖論不只是邏輯難題，它應該首先被視作一種隱喻，一種揭示人類在理解和應對事物時的天然局限性的方法。

就在核爆之后不久，1946年，著名的分析哲學家卡爾·G.亨普爾——他曾在維也納大學求學，深受維也納小組影響，并且和哥德爾等人一樣，也是在納粹上臺之后移居美國——提出了“烏鴉悖論”。這個悖論給予在近代科學中長期居于統(tǒng)治地位的經驗歸納法相當有力的一擊。大意是這樣的：

對于命題“天下烏鴉一般黑”，傳統(tǒng)的歸納法當然是通過所見每一只烏鴉都是黑的，來一次次“證實”這一命題；比較新的波普爾的“證偽法”，則反過來，只要找到一只紅烏鴉，就推翻這個命題了，而在找到赤橙黃綠青藍紫烏鴉以前，我們可以暫且認該命題為真。但亨普爾指出，在邏輯上，“天下烏鴉一般黑”等價于“所有非黑之物皆非烏鴉”——如果所有烏鴉都是黑的，那么任何顏色非黑的東西當然不可能是烏鴉。這在邏輯學上稱為“換質位法”，即一個命題經過換質位，得到的新命題與原命題在意義上等價。但是怪事發(fā)生了。命題“所有非黑之物皆非烏鴉”是極容易驗證的，比“天下烏鴉一般黑”容易得多，每當你見到一件顏色非黑之物，而且證實它不是烏鴉，這個命題就被證實一次。我們不再需要到處去找烏鴉，只要找那些非黑并且不是烏鴉的東西就行了，這范圍可比烏鴉大太多了，一只綠孔雀、一條紅鯉魚、一把藍色的傘，甚至一張白紙，都可以“證實”這個命題，這顯然是荒謬的。更荒謬的是，比如綠孔雀或紅鯉魚，也能用幾乎同樣的方法來證實“天下烏鴉一般白”。如果這時候搬出三段論的形式，就變成：

紅鯉魚證實天下烏鴉一般黑

紅鯉魚證實天下烏鴉一般白

因此，黑即是白。證畢。

對于黑烏鴉，傳統(tǒng)的歸納邏輯如果要達到普遍必然性，就要使用窮舉法，上天入地找出每一只存在的烏鴉，如果它們全都是黑的，那么可以證得“天下烏鴉一般黑”，但這顯然超出人的能力，所以人在使用歸納法時，只是權且一用，并沒有確然性的保證。而證偽法，表面看上去要比歸納法省力，你只要能舉出一個反例，事情就結束了。但問題是，反例會不會出現(xiàn)以及何時出現(xiàn)都是不確定的，如果一直不出現(xiàn)，你就要像歸納法一樣一直找下去，最終可能你還是要像神一樣，上天入地遍歷一切地方，去找有沒有赤橙黃綠青藍紫烏鴉。換質位之后的那個等價命題，實際上是把原命題所隱含的悖論性質以顛倒后放大無數(shù)倍的荒謬形式，更清晰地展現(xiàn)在我們面前。這也就是所謂“超級任務”，即一個過程需要無窮多的行動，而如果斷定某件事需要無窮多的行動，實際上就意味著此事根本不可知——若宇宙如我們通常所認為的是無限的，那么“天下烏鴉一般黑”（或“不存在非黑色的烏鴉”）就是這樣一個需要無窮多的觀察記錄的命題。順便說一句，窮舉和遍歷，今天已經是很常用的計算機術語了，指向的都是人力不能及，連計算機都要靠蠻力去做的事情。

雖然沒有證據(jù)，但我覺得可以把亨普爾（在1946年）提出“烏鴉悖論”，看作核爆在哲學家心中投下的陰影的某種反映。亨普爾認識到，科學非常依賴的歸納，本質上就隱含了悖論，它試圖依靠有限的觀察、思考、計算，跳躍到必然的結論；但這一形式上的必然，實際上只是具有較大的或然性罷了，它真正指向的是概率，而非普遍。用同樣參與了曼哈頓計劃的著名物理學家、后來的黑洞命名者約翰·惠勒的話來說，“大自然是用或然性建立了必然性”——緊接著他又發(fā)問：“對每條物理定律推而至極，是否也都會發(fā)現(xiàn)它們具有熱力學第二定律的特征，即它們只是統(tǒng)計性的，近似的，而不是數(shù)學上的那樣理想和精確？物理是否將終結于‘沒有定律的定律’這句質樸性的至理名言？”

所以說，奧本海默所遭遇的根本困惑，既是道德性的，也是科學邏輯內在的。并且道德的悖論和科學邏輯的悖論，最終指向的都是人類為自己爭得的越來越強的力量，與根本上不可掌控的、遠遠超出我們的力量之間的鴻溝；我們擁有的力量越強大，這條鴻溝就越深不可測。

用普羅米修斯來喻示奧本海默，因此極為傳神。人們受浪漫主義的影響（比如雪萊著名的長詩《解放了的普羅米修斯》），通常視普羅米修斯為盜火給人類的英雄，其“副作用”，只是局限在火也可以引發(fā)火災、制造武器的意義上——這當然很方便地可以引申到核武恐慌，就像尼爾斯·玻爾在電影里對奧本海默所說的那樣。

但古希臘神話比這種簡單的引申要復雜深刻得多：幾乎可以把普羅米修斯和潘多拉視為一體兩面，因為奧林匹斯諸神為了報復普羅米修斯對他們的蔑視，每一位都賜予工匠之神赫淮斯托斯造出的世上第一個女人潘多拉一樣“禮物”（潘多拉的意思就是“所有禮物”），然后把她嫁給普羅米修斯的兄弟埃庇米修斯；當她打開著名的裝滿“禮物”的“潘多拉之匣”，按赫西俄德的說法，盒子（或罐子）里所裝的種種罪惡就散逸到了人間，只有一樣東西被留在里面：希望。這里存在一個“閱讀理解”上的巨大分歧：希望被留下，意味著人類的確還有希望（因為它還完好地存在那里），還是意味著人類已經完全沒有希望（因為跟罪惡不同，它根本沒有來到世上）？

無論如何，普羅米修斯之火和潘多拉之匣共同構成了一個道德悖論，并且對人類來說是一個永恒的核心悖論——

人永遠在試圖掌控遠遠超出自己能力的力量，因為這是生存所必需的。在遠古時代，這意味著要去獵殺幾乎不可戰(zhàn)勝的猛犸象，以獲取食物；在1940年代，則意味著必須跑贏納粹的核計劃，以避免盟國的集體毀滅。但遠遠超出自己的能力，就意味著你不可能真的掌控住它。一切真正的道德悖論皆源于此，并且是無解的。

4作為救贖的機器

非常有意思的一件事情是，哥德爾不完備性定理的一個推論，是計算機器的局限性，因為根據(jù)該定理，任何算法都有盲點，反而人類倚重直覺的思維方式可以繞過或覆蓋這些盲點——某些無法證明的真命題可以直觀呈現(xiàn)，這和維特根斯坦及胡塞爾的想法若合符節(jié)。但哥德爾恰恰在理論計算機領域影響巨大（比如他在與馮·諾伊曼的通信中首次提出的Pvs.NP問題——這個至今未能解決的難題關系到計算機運算能力的限度），該領域的最高獎就被命名為“哥德爾獎”。

無獨有偶，不完備性定理發(fā)表6年后，比哥德爾小6歲的艾倫·圖靈也在1937年發(fā)表了論文《論可計算數(shù)及其在判定問題中的應用》，這是他最重要也影響最大的論文之一，用《泰晤士報》為他寫的訃告中的話來說：“這一使圖靈在數(shù)理邏輯中獲得永久地位的發(fā)現(xiàn)……證明（與當時希爾伯特及他所代表的哥廷根學派的流行觀點正相反）：存在著這樣一類數(shù)學問題，它們不可能通過固定的和有限的過程而得到解決。”這里所謂“有限的過程”，圖靈自己的解釋，等價于“可以由一臺自動機完成的過程”，而這臺想象中的自動機，就是作為現(xiàn)代通用計算機的最初構想的“圖靈機”的由來了。

這樣，盡管哥德爾和圖靈這兩位數(shù)學和數(shù)理邏輯的天才，從不同的方向都證明了機器的“算法”必有盲點，但吊詭的是，恰恰為了證明盲點的存在，他們都對計算機，或者更準確地說，智能自動機的誕生與最初的成長作出了重大貢獻。最關鍵的一點是，哥德爾的不完備性和圖靈的可計算數(shù)，最終都可以被歸結到遞歸論上，而遞歸（簡單說就是反復自我調用的函數(shù)）恰恰是機器能夠“自動”的關鍵，遞歸和反饋（后者是諾伯特·維納在控制論中研究的重點）實際上是所有機器學習問題的核心。

但是哥德爾和圖靈（至少在前期），基于他們對數(shù)理邏輯中基本的不可能性的理解，并不相信機器運算可以勝過人類思維。比如“無窮”，就是人的思維可以想象甚至可以進行某種運算的，因為人可以憑借直覺躍過比如自然數(shù)的集合與無窮之間的斷裂。但機器無法面對無窮，它一直沒完沒了算下去就只能死機了（所以我們現(xiàn)在普遍使用的計算機都很明智地做成“圖靈不完備”的系統(tǒng)，達到設定的限度就強制停機）。相比之下，反而年齡大一些的馮·諾伊曼和維納，在對智能自動機潛力的想象上，顯得更大膽一些。

作為曼哈頓計劃首席數(shù)學家的馮·諾伊曼，在同時參與原子彈和通用計算機研究之余，竟然還有空和經濟學家奧斯卡·摩根斯坦（他是孤僻之極的哥德爾在普林斯頓除愛因斯坦之外最好的朋友）合作出版了現(xiàn)代博弈論奠基之作《博弈論與經濟行為》（1944年），并進一步提出VNM效用函數(shù)（即馮·諾伊曼-摩根斯坦效用函數(shù)），建立了不確定條件下對理性人選擇進行分析的框架；雖沒參與曼哈頓計劃，但對火控雷達系統(tǒng)的研究做出關鍵貢獻，并對現(xiàn)代計算機提出原創(chuàng)性構想的維納，則在二戰(zhàn)結束不久（1948年）就提出了控制論。

博弈論在回避善惡對錯問題的基礎上研究最佳策略，可以看作是對類似核爆這樣的事件所可能引發(fā)的道德困境提供了一種純技術性解法，類似于用正則公理去解羅素悖論；控制論則一向被“望文生義”（包括狠批它的海德格爾），以為它是要用一整套技術去加強對原本不可掌控之物的“控制”。但維納遠遠不是這么淺薄和自以為是，他很清楚不可掌控之物本質上就是不可掌控的。

控制論的本名是cybernetics，什么意思？其實就是指基于信息反饋控制的智能自動機。在我看來，其深層潛臺詞是：當我們確認那些最重要的事物、力量，是我們出于人的有限性永遠無法掌控的，一旦僭越就會自陷深淵，那么我們應該清醒地、坦然地將決定權交出去，交給注定會遠遠超越于我們的自動機器，由它們去做出更好的決策——控制論（它源于希臘詞“舵手”）將在這個意義上深度結合博弈論，去駕馭這艘顛簸于洶涌波濤中的航船，而將人類徹底甩到海灘上，成為或閑適或憂心忡忡的旁觀者。維納經典名著《控制論》的通俗科普版，叫《人有人的用處》，你細品品其中微妙的意味。