ChatGPT的發(fā)布及快速迭代引發(fā)了全球對人工智能（AI）技術研發(fā)與應用的新一輪熱潮。與此同時，AI技術快速發(fā)展可能給人類社會帶來的風險與挑戰(zhàn)也日益引發(fā)關注。3月29日，以馬斯克為首的上千名業(yè)界人士聯(lián)合發(fā)出公開信，呼吁“所有人工智能實驗室立即暫停對比GPT-4更強大的人工智能系統(tǒng)的培訓至少6個月”，以便給業(yè)界一段時間來“開發(fā)和實施一套高級人工智能設計和開發(fā)的共享安全協(xié)議”，“并給社會一個適應的機會”。

許多業(yè)界人士擔憂，作為一項有可能對各行各業(yè)產生顛覆性影響的技術，AI除了有可能導致大量就業(yè)崗位消失、加大貧富差距與不平等現(xiàn)象，還會帶來技術安全、數(shù)據(jù)濫用、隱私泄露、信息造假、算法偏見、技術洗腦、機器人操縱等諸多問題；有些人甚至擔憂AI會超越人類智慧，進而控制或取代人類，威脅人類社會的生存。雖然對這些風險尚存在爭議和分歧，但AI技術進步如此之快，很可能會快速超越全球經濟、社會、政治、法律乃至倫理規(guī)范的承接與適應能力。鑒于AI技術有可能給人類社會帶來重大風險，也許AI技術的確有必要放慢創(chuàng)新與應用的步伐，給人類社會更多適應的時間，以便在認知（包括知識、道德、文化理念等）及制度（如法律、教育、社會保障體系等）等方面抓緊準備和盡快追趕。

其實，各國政府、國際組織、學術界及行業(yè)領軍機構早已關注此類風險，并通過制定監(jiān)管政策、倫理規(guī)范及自律措施來應對。例如，聯(lián)合國教科文組織于2017年發(fā)布了《機器人倫理報告》，經合組織（OECD）于2019年發(fā)布了《OECD人工智能原則》，歐盟在同年發(fā)布了《可信賴的AI倫理指南》，中國政府也于2019年發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的人工智能》；微軟、谷歌、百度、騰訊等業(yè)內領軍企業(yè)都已制定了自身的AI技術開發(fā)的倫理原則，將相關風險作為高科技企業(yè)ESG實踐的一個重點領域來對待。

然而，這些舉措能否有效控制AI技術快速發(fā)展所帶來的重大風險？馬斯克等人的呼吁能否奏效？與馬斯克等人的呼吁形成鮮明對比的是，最近一兩個月，全球各大科技公司先后宣布了下一步的AI研究和投資計劃，一批業(yè)界知名人士紛紛投入到AI領域的創(chuàng)業(yè)熱潮之中，各行各業(yè)都在抓緊研究和制定類似于“ChatGPT+”的人工智能技術增強策略。面對巨大的業(yè)界競爭壓力和誘人的發(fā)展機遇，很難想象一家企業(yè)會主動暫停自身在該領域的研究和應用。

從這個意義上講，政府監(jiān)管也許是必需的，但政府監(jiān)管也面臨兩大難題。

一方面，AI技術的競賽不只是發(fā)生在企業(yè)之間，也是當前大國競爭的重大前沿領域。鑒于該技術對經濟發(fā)展乃至國防安全的重要性，很難想象哪個國家的政府會真正限制本國在該領域的技術進步，反而更有可能為其提供各類軟硬件支持，以幫助本國企業(yè)在國際競爭中脫穎而出。這意味著，類似于對核擴散的管控及應對氣候變化的措施，對AI技術的監(jiān)管約束必須在全球范圍內、通過國家間的合作與妥協(xié)來實現(xiàn)。然而，在當前的全球地緣政治形勢下，在這個領域開展實質性國際合作的前景并不樂觀。

另一方面，即便要加強政府監(jiān)管，如何針對一個加速發(fā)展、充滿大量未知可能性、影響各行各業(yè)乃至倫理規(guī)范的技術領域進行有效監(jiān)管，在價值取向及利益分配方面必然存在諸多分歧。從經濟學角度來說，要找到既能控制風險、彌補市場失靈，又不遏制技術創(chuàng)新及經濟發(fā)展的監(jiān)管平衡點，也極其困難。

綜上所述，今后幾年，AI技術的飛速發(fā)展很可能是不可避免的，其所帶來的某些風險與挑戰(zhàn)也將迅速變?yōu)楝F(xiàn)實。尤其是對就業(yè)的沖擊，很可能在3~5年里就會非常明顯。面對這種可能性，我們需要多管齊下，政府監(jiān)管、企業(yè)自律、學術研究、個人準備都不可或缺。當務之急是要提高全社會對相關風險的認知度和關注度，將該議題提升到與應對氣候變化、防止核擴散等重大全球風險議題相當?shù)乃剑酝苿痈骼嫦嚓P主體抓緊采取行動，以期防患于未然。從這個意義上講，即便馬斯克等人的呼吁未能阻止任何AI實驗室的研發(fā)進展，它在全球引起的廣泛關注及對公眾的啟蒙教育也意義重大。ESG投資者更要關注這一議題，利用手中的資本及其影響力，對緩解相關風險作出自己的貢獻。

（作者系海通國際首席經濟學家）