（本文作者王音，秦朔朋友圈撰稿人，平臺(tái)技術(shù)公司全球總法律顧問(wèn)）

01

OpenAI 風(fēng)波

2023年，OpenAI的戲份很足。3月份時(shí)，ChatGPT4.0亮相，驚艷到了全世界，一時(shí)間大家紛紛嘗試讓ChatGPT寫小作文、編代碼，及至咋舌ChatGPT偶爾會(huì)胡編亂造一通的做派。眾多軟件科技公司更是緊跟潮流，卯足了勁開發(fā)各種應(yīng)用的大語(yǔ)言模型。OpenAI帶動(dòng)了人工智能（AI）的一輪新高潮。

時(shí)至11月，Open AI再次震驚了全世界。公司董事會(huì)突然宣布CEO奧特曼去職。之后，局勢(shì)反轉(zhuǎn)再反轉(zhuǎn)，OpenAI員工集體威脅辭職，微軟馬上伸出橄欖枝愿意整體接收，最終一周之后，奧特曼重返CEO位置，董事會(huì)大改組，被認(rèn)為是CEO罷免事件推手力量的公司首席科學(xué)家蘇茨克弗也不再任董事。OpenAI的大風(fēng)波暫時(shí)平息。

一個(gè)有意思的方面是，奧特曼雖然恢復(fù)CEO職位，卻并沒有回到董事會(huì)，而OpenAI的治理結(jié)構(gòu)獨(dú)特，董事會(huì)是最高決策機(jī)構(gòu)。

奧特曼為何遭罷免？OpenAI是這樣官宣陳述的——“董事會(huì)經(jīng)過(guò)深思熟慮的審查程序”，奧特曼“與董事會(huì)的溝通中沒有始終坦誠(chéng)，阻礙了其履行職責(zé)的能力。董事會(huì)不再對(duì)他繼續(xù)領(lǐng)導(dǎo)OpenAI的能力充滿信心”。

同一時(shí)間段，據(jù)悉OpenAI某位高管在給員工的溝通信中表示，奧特曼并沒有瀆職行為，在公司財(cái)務(wù)、業(yè)務(wù)、安全或隱私等方面也沒有失誤。奧特曼回歸后，關(guān)于其免職事件，OpenAI公司仍要開展內(nèi)部調(diào)查。

02

追求速度還是安全？

OpenAI事件一番戲劇性地演進(jìn)，將一個(gè)人從幕后推到了大眾的矚目中，連帶他推崇的重要主張。這個(gè)人就是前文提及的，OpenAI首席科學(xué)家蘇茨克弗，他同時(shí)是OpenAI的聯(lián)合創(chuàng)始人。

盡管ChatGPT4.0走紅后代表OpenAI在媒體上頻頻露臉的是CEO奧特曼，但事實(shí)上蘇茨克弗才是ChatGPT的核心發(fā)明人，攻克了AI重要的技術(shù)難題，被業(yè)界稱為“ChatGPT之父”。

蘇茨克弗出生于前蘇聯(lián)，持以色列和加拿大的國(guó)籍。他是深度學(xué)習(xí)領(lǐng)域的專家。蘇茨克弗在讀博士期間師從圖靈獎(jiǎng)得主,有“人工智能教父”之稱的杰弗里·辛頓（Geoffrey Hinton）。

在OpenAI所處的加州硅谷地區(qū)，對(duì)于人工智能的發(fā)展有兩派相反的觀點(diǎn)。

一派希望全速推動(dòng)人工智能的發(fā)展，認(rèn)為隨著技術(shù)進(jìn)步，相關(guān)的社會(huì)問(wèn)題會(huì)自然而然地得到解決，這在歷史上多次證明，所以不必多擔(dān)憂。用中國(guó)的俗語(yǔ)來(lái)說(shuō)，就是“船到橋頭自然直”。

另有一派，則主張?jiān)贏I程序向社會(huì)公開之前，先要在實(shí)驗(yàn)室進(jìn)行徹底測(cè)試，特別是生成式人工智能。

蘇茨克弗是后一派觀點(diǎn)的代表人物。

蘇茨克弗比較近期的公眾演講，包括今年3月份他接受英偉達(dá)CEO黃仁勛的采訪，和今年10月他的TED演講。在演講中，蘇茨克弗直白地表示，AI將會(huì)發(fā)展達(dá)到人類的智能水平，進(jìn)而超越人類智能，比人更聰明。他拋出一個(gè)深刻的問(wèn)題：比人類更聰明的人工智能，將會(huì)怎樣對(duì)待人類？

蘇茨克弗每每演講，都顯得邊講邊在沉思。他不茍言笑，卻觀點(diǎn)犀利，表達(dá)清晰。

與人類的“生物大腦”相對(duì)照，蘇茨克弗稱人工智能是處在計(jì)算機(jī)系統(tǒng)中的“電子大腦”。“電子大腦”的優(yōu)勢(shì)在于能夠充分全面地占有信息，在此基礎(chǔ)上，推導(dǎo)結(jié)果。

蘇茨克弗習(xí)慣于以人和動(dòng)物的關(guān)系，來(lái)類比將來(lái)通用人工智能（AGI）與人類之間或?qū)⒋嬖诘年P(guān)系。他反復(fù)地會(huì)問(wèn)觀眾，AI會(huì)愛人類嗎？AI會(huì)像今天人類對(duì)待動(dòng)物那樣來(lái)對(duì)待人類嗎？公開演講時(shí)，蘇茨克弗頻頻穿著帶動(dòng)物圖案的T恤出鏡頭，似乎為了加強(qiáng)他的觀點(diǎn)。

蘇茨克弗向聽眾介紹，他之所以在2015年聯(lián)合創(chuàng)辦Open AI，出發(fā)點(diǎn)正是為了在推動(dòng)AI發(fā)展的進(jìn)程中，妥善解決AI和社會(huì)的問(wèn)題。

03

AGI通用人工智能，何為“通用”?

Artificial General Intelligence (AGI)中文譯為“通用人工智能”。其實(shí)，這個(gè)中文翻譯并沒有準(zhǔn)確地傳意。General是相對(duì)Special而言的。在AI的這個(gè)語(yǔ)境下，人工智能機(jī)器人先后打敗了人類的國(guó)際象棋大師、圍棋大師，實(shí)現(xiàn)了蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)的重大突破，等等，這些赫赫成績(jī)反映了AI智能的某個(gè)(special)方面，或者說(shuō)是單項(xiàng)考評(píng)的成績(jī)。

而AGI指的是在綜合考評(píng)上AI全面地達(dá)到乃至超過(guò)人類智能的那個(gè)時(shí)刻，用通俗的話來(lái)說(shuō)，就是“全面碾壓”。所以，用“綜合人工智能”或“全面人工智能”翻譯AGI，似乎更加提挈。

AGI目前尚未實(shí)現(xiàn)，但是正在向人類走來(lái)。OpenAI在其公司網(wǎng)頁(yè)上預(yù)期，十年內(nèi)，AGI會(huì)被實(shí)現(xiàn)。按人工智能成果的此起彼伏來(lái)看，十年不知道是不是一個(gè)保守的時(shí)間估計(jì)。

此外還有一個(gè)AI名詞，GenerativeAI，中文翻譯是“生成式人工智能”。為什么稱generative（生成），而不是creative（創(chuàng)作）？造詞者大概是考慮到目前的知識(shí)產(chǎn)權(quán)法律框架體系并不承認(rèn)AI作為發(fā)明創(chuàng)作的主體，不賦予AI創(chuàng)作的主體資格。

但是，從價(jià)值的角度來(lái)衡量，AI大語(yǔ)言模型生成的段落、文章以及圖片是否具備文化價(jià)值？人是否樂意花時(shí)間去閱讀乃至欣賞？認(rèn)為AI作品是生成的而非創(chuàng)作的，這樣的界定更多來(lái)自于人類對(duì)待人工智能的主觀態(tài)度。但是，一旦AGI實(shí)現(xiàn)，其“生成”的作品例如出品的小說(shuō)超出人類作家的水準(zhǔn)，是否有必要開放創(chuàng)作發(fā)明的主體資格，延及AI？還是另外新辟AI-IP這個(gè)權(quán)利范疇？

04

OpenAI的Q*項(xiàng)目之謎

奧特曼究竟為什么被董事會(huì)罷免？官宣中提到奧特曼沒有和董事會(huì)坦誠(chéng)溝通，言下之意是他背著董事會(huì)秘密地干了些什么。敏銳的記者們?cè)谂颐亍?/p>

據(jù)路透社等幾家媒體的報(bào)導(dǎo)，奧特曼在公司內(nèi)部大力推進(jìn)Project Q*項(xiàng)目，很可能是他被免職的重要原因。

據(jù)稱，Project Q*的研究將AI的智能水平又推上了一個(gè)新的高度。AI將不僅能基于統(tǒng)計(jì)學(xué)的能力，在占有信息和數(shù)據(jù)的基礎(chǔ)上做預(yù)測(cè)，生成文字和圖片，還掌握了數(shù)學(xué)推理的能力。前者不一定有一個(gè)標(biāo)準(zhǔn)答案，而數(shù)學(xué)的答案是唯一的。

OpenAI的治理結(jié)構(gòu)，采取了非盈利機(jī)構(gòu)控制下屬盈利公司的模式，其最初的意愿正是希望AI的研究發(fā)展不受制于資本的影響。OpenAI的首席科學(xué)家蘇茨克弗更是積極倡導(dǎo)AI發(fā)展要顧及人類安全的大命題，安全謹(jǐn)慎地推進(jìn)AI研究。

ChatGPT4.0發(fā)布后，蘇茨克弗在今年四五月期間提出了OpenAI內(nèi)部的一個(gè)名為“超級(jí)對(duì)齊（Super-alignment）”的項(xiàng)目，據(jù)說(shuō)調(diào)動(dòng)了占OpenAI五分之一的內(nèi)部資源，著重于AI與安全的研究。

根據(jù)路透社及其他媒體調(diào)查后所推斷，CEO奧特曼并沒有太重視AI帶來(lái)的安全擔(dān)憂，而是繼續(xù)大力推進(jìn)人工智能的商業(yè)化，由此觸發(fā)了他被免職的一幕。

05

基辛格博士參與撰寫的暢銷書：The Age of AI

The AgeofAI《AI時(shí)代》被福布斯雜志評(píng)選為2022年“當(dāng)年最暢銷的10本技術(shù)類書籍之一”，該書由基辛格博士及兩位技術(shù)領(lǐng)域的頂尖專家共同撰寫。書中指出，在人類發(fā)展的歷史長(zhǎng)河中，推理是人類高度珍視，或者說(shuō)是引以為傲的一項(xiàng)重要能力。

如果人工智能突破推理的障礙，從而擁有了與人類相當(dāng)?shù)耐评砟芰?，甚至超越了人類的推理能力，那么這是否意味著人類對(duì)自身能力將產(chǎn)生懷疑？作者們認(rèn)為，定義AI能力的同時(shí)，也意味著重新來(lái)定義人類的能力乃至人類的地位。

06

對(duì)AI將威脅人類安全的擔(dān)憂

追溯到2015年，霍金、馬斯克以及多名人工智能專家已經(jīng)聯(lián)名簽署了公開信，呼吁重視人工智能將帶來(lái)的社會(huì)影響，并展開認(rèn)真的研究。公開信特別指出，人工智能雖然將帶來(lái)非常多的好處，甚至消除疾病和貧困，但要警惕人工智能趨向于不安全和不可控的態(tài)勢(shì)。

近年來(lái)，隨著AI威力的持續(xù)升級(jí)，有關(guān)AI很可能帶來(lái)安全威脅的擔(dān)憂也不斷被放大。ChatGPT4.0推出后，馬斯克等上千名科技界人士發(fā)表公開信，提議所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比ChatGPT4.0更強(qiáng)大的人工智能系統(tǒng)至少六個(gè)月。

當(dāng)蘇茨克弗的導(dǎo)師、人工智能教父辛頓被記者采訪時(shí)問(wèn)及人工智能是否會(huì)消滅人類，他回答：“我認(rèn)為這并非不可想象。我只能說(shuō)這些。”這話聽著，是不是讓人感到后脊發(fā)涼？

硅谷是人工智能研究的前沿，也大概是有關(guān)人工智能與人類安全問(wèn)題爭(zhēng)論最多的地方。像蘇茨克弗這樣的頂級(jí)科學(xué)家在擔(dān)憂AI對(duì)人類可能帶來(lái)的不可挽回的影響，也有大量的富豪捐款投入在有關(guān)AI與安全問(wèn)題的研究上。

有效利他主義（effective altruism）是其中一種代表性的思潮，關(guān)心遠(yuǎn)方最貧窮的人，關(guān)心子孫后代的生活環(huán)境，關(guān)注科技對(duì)人類的影響尤其是AI對(duì)社會(huì)的影響，考察如何定量評(píng)估干預(yù)產(chǎn)生的效果，利他的同時(shí)達(dá)成利己。

回到本文開篇提到的奧特曼被免，OpenAI董事會(huì)大改組，對(duì)普羅大眾來(lái)說(shuō)，這場(chǎng)戲劇性事件除了能為八卦談資增加題材，更向大眾揭開了AI與安全這個(gè)命題的面紗。由陌生到開始了解，從有所了解到更深入地探究，OpenAI風(fēng)波好比是向大眾啟蒙AI安全問(wèn)題的重要與迫切，這也是這個(gè)事件產(chǎn)生的積極社會(huì)影響。

07

AI監(jiān)管，及國(guó)際合作

近幾年來(lái)，中國(guó)、歐盟、美國(guó)等全球的主要國(guó)家和地區(qū)，有關(guān)AI監(jiān)管都出臺(tái)了一系列法律法規(guī)，主要涉及隱私保護(hù)、數(shù)據(jù)安全、防范AI的武器化應(yīng)用、算法反歧視等方面。這些都是重要問(wèn)題，但不得不說(shuō)，更重要的問(wèn)題在于：AI一旦演進(jìn)成為超級(jí)智能，將在多大程度影響人類安全本身？或者說(shuō)，人類是否持續(xù)可以保有對(duì)AI的控制權(quán)？

令人欣慰的是，今年11月初在英國(guó)召開了人工智能安全峰會(huì)，包括中國(guó)在內(nèi)超過(guò)25個(gè)國(guó)家的政府代表和科技界人士參加。參會(huì)成員國(guó)同意以國(guó)際合作的途徑，建立人工智能的有效監(jiān)管方法。盡管這看著是一個(gè)松散的非正式的合作模式，但是合作好過(guò)不合作，中國(guó)參與其中也可以爭(zhēng)取到發(fā)言權(quán)和交換意見的渠道。

可以說(shuō)，人工智能的風(fēng)險(xiǎn)和對(duì)人類可能產(chǎn)生的根本性的影響，其重要性和后果一點(diǎn)都不遜于碳排放等問(wèn)題，可以說(shuō)有過(guò)之而無(wú)不及。正如代表中國(guó)參會(huì)的科技部副部長(zhǎng)吳朝暉所指出的，人工智能的治理攸關(guān)全人類的命運(yùn)，是世界各國(guó)面臨的共同課題。

耐人尋味的是，在英國(guó)AI峰會(huì)后發(fā)布的全體與會(huì)國(guó)家宣言中，特別強(qiáng)調(diào)的一點(diǎn)是各國(guó)要加強(qiáng)合作，識(shí)別、理解AI帶來(lái)的風(fēng)險(xiǎn)，并采取適當(dāng)?shù)男袆?dòng)。宣言進(jìn)一步指出，需要加深對(duì)于潛在風(fēng)險(xiǎn)的理解。從這些字里行間透露出來(lái)的信號(hào)是，AI迅猛發(fā)展，各國(guó)政府承認(rèn)看不清楚其前景。

馬斯克也參加了這次峰回，他對(duì)記者表示，在監(jiān)管AI之前，必須要有洞察力。換言之，風(fēng)險(xiǎn)撲朔迷離，首要步驟是清晰識(shí)別和理解風(fēng)險(xiǎn)。

而識(shí)別和理解AI風(fēng)險(xiǎn)，需要政府和科技界緊密合作，后者向前者介紹AI的發(fā)展?fàn)顩r和風(fēng)險(xiǎn)，幫助政府了解和理解，進(jìn)而制定規(guī)范，調(diào)動(dòng)資源，有效監(jiān)管。如此才談得上有效控制風(fēng)險(xiǎn)，指導(dǎo)科技界負(fù)責(zé)任地開發(fā)和部署人工智能。

（本文作者王音，秦朔朋友圈撰稿人，平臺(tái)技術(shù)公司全球總法律顧問(wèn)）

本文僅代表作者觀點(diǎn)。