AI的技術(shù)迭代遠遠快于監(jiān)管的速度，近一年來，涉及名人的造假視頻層出不窮，這甚至已引起了“股神”巴菲特的重視。

當(dāng)?shù)貢r間10月23日，巴菲特旗下伯克希爾·哈撒韋公司在官網(wǎng)罕見發(fā)表聲明，強調(diào)公司董事長巴菲特不會在社交媒體上推薦任何投資產(chǎn)品和政治候選人。

這份聲明中提到，現(xiàn)在人們越來越多地使用社交媒體，關(guān)于巴菲特代言投資產(chǎn)品以及他支持政治候選人的欺詐性聲明層出不窮。“巴菲特目前并未、將來也不會代言投資產(chǎn)品、以及代言或支持政治候選人。”此次促使巴菲特發(fā)表聲明的直接原因，在于他看到了Meta旗下的Instagram平臺上有虛假的政治支持信息。

在今年5月的股東大會上，巴菲特曾提及AI，他將AI的出現(xiàn)比喻為原子彈，“我們已經(jīng)讓精靈從瓶子里跳了出來，它現(xiàn)在正在做一些壞事。”他表示，AI的發(fā)展讓自己有些緊張，AI也會引發(fā)欺詐問題。

在有關(guān)AI合成的深度偽造視頻中，如巴菲特這樣的名人經(jīng)常被波及。Sensity是檢測深度偽造視頻的公司，該機構(gòu)發(fā)布的數(shù)據(jù)顯示，深度造假廣告常常使用巴菲特這樣的著名投資者和亞馬遜創(chuàng)始人杰夫·貝索斯（Jeff Bezos）等商界大佬這樣的形象。

“深度偽造是目前最為突出、最為典型的AI風(fēng)險之一。”北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括認為，這對于技術(shù)和管理規(guī)則都提出了進一步的要求。AI造假問題何解？上海大邦律師事務(wù)所高級合伙人游云庭對第一財經(jīng)記者提到，通過技術(shù)能夠部分解決問題，因為識別技術(shù)和生成技術(shù)都在升級，但不能指望識別技術(shù)解決全部問題，法規(guī)的改進是有滯后性的。

波及多位名人

造假視頻背后的技術(shù)是深度偽造（Deepfake），其核心原理是利用深度學(xué)習(xí)算法將目標(biāo)對象的面部“嫁接”到被模仿對象上，隨著AI技術(shù)的進步，這一技術(shù)工具越來越普遍，門檻變低，容易被有心者利用，從目前已公開的事件來看，這一技術(shù)頻繁被用于金融犯罪和性犯罪，而名人明星有更大概率被用于合成。

就在10月23日，老牌港星黃百鳴在社交媒體上發(fā)布了一則聲明，提及自己被AI偽造用于代言。在聲明中他稱，發(fā)現(xiàn)有人盜用過去的影片，并利用人工智能技術(shù)替換聲音，假借黃百鳴的名義代言一個不知名的藥膏品牌，“這種行為純屬欺詐，旨在誤導(dǎo)公眾并從中取利”。

國慶期間，小米集團董事長雷軍的偽造AI語音包在社交媒體上刷屏，在這些視頻里“雷軍”銳評了堵車、假期、調(diào)休、游戲等一切熱門話題，言辭犀利，甚至還有一些不雅謾罵，引發(fā)網(wǎng)絡(luò)關(guān)注。對此事件，雷軍本人曾在自己個人社交賬號的評論區(qū)回復(fù)了三個憤怒表情，表達態(tài)度。

在國外，Sensity數(shù)據(jù)顯示，在2000多起深度偽造案件中，埃隆·馬斯克（Elon Musk）的形象出現(xiàn)在了近四分之一的案件中，成為AI詐騙案中最常見的代言人之一。

今年8月，馬斯克因AI偽造技術(shù)卷入了一場詐騙事件。82歲的退休老人史蒂夫·比徹姆（Steve Beauchamp）在網(wǎng)上看到了一段聲稱由馬斯克親自承諾收益的投資視頻，隨后他聯(lián)系了視頻背后的推銷公司，并投資了超過69萬美元。隨后，這些錢就落入了詐騙犯之手。

據(jù)悉，這些詐騙者篡改了一段馬斯克的真實采訪，利用AI技術(shù)替換了他的聲音，并微調(diào)了他的口型，以匹配他們?yōu)檫@個數(shù)字人編寫的新劇本。對于一般觀眾來說，這種操作幾乎察覺不出。

安全公司McAfee公布的一份榜單中，列舉了被冒用最多的10個美國名人，包括斯嘉麗·約翰遜、凱莉詹納、泰勒·斯威夫特和湯姆·漢克斯等。知名女歌手泰勒（Taylor Swift）可能是最開始讓大眾認識到深度偽造的名人，今年1月，大量由AI生成的泰勒不雅照在各大社交平臺瘋轉(zhuǎn)，瀏覽量過千萬，引發(fā)公眾關(guān)注。

除了名人，也有不少涉及普通人的AI犯罪曾引發(fā)關(guān)注。8月，韓國出現(xiàn)多起利用AI換臉偽造女性色情露骨圖像的犯罪案，犯罪者用深度偽造技術(shù)合成色情照片和視頻，并通過群聊傳播，參與者多達22萬人，引發(fā)韓國民眾恐慌。

在國內(nèi)，今年6月，“男子用AI偽造學(xué)生同事近7000張裸照”沖上微博熱搜。據(jù)央視新聞消息，犯罪嫌疑人用AI“一鍵去衣”技術(shù)，深度偽造淫穢圖片近7000張，再每張1.5元賣出，賺了將近一萬元。圖片涉及女性人數(shù)多，包括學(xué)生、教師、同事。目前白某某已被提起公訴。

技術(shù)能解決部分問題

《2024人工智能安全報告》顯示，2023年基于AI的深度偽造欺詐增長了3000％，僅今年上半年，AI詐騙案案值已超過1.85億元。

“如果我之前有興趣投資欺詐市場的話，它可能增長會很快。”巴菲特曾在股東大會上調(diào)侃。他認為，AI也有潛力去做好事，但是根據(jù)自己之前目睹的一些現(xiàn)象，“可能會有一些嚇人”，且我們沒有辦法去做評估。

“這個‘精靈’的力量，有時候讓我感到恐懼，而且它已經(jīng)再也塞不回瓶子里了。”巴菲特希望，這樣一個精靈在未來能夠做好事。

鑒于深度偽造技術(shù)的潛在風(fēng)險，各國政府和研究機構(gòu)已經(jīng)開始采取應(yīng)對措施。

2024年7月23日，美國參議院通過了《2024年打擊精準(zhǔn)偽造圖像和未經(jīng)同意編輯法案》（Disrupt Explicit Forged Images and Non-Consensual Edits Act of 2024，DEFIANCE Act），允許私密數(shù)字偽造內(nèi)容的受害人向惡意制作或傳播的人尋求民事賠償。根據(jù)這一法案，一般情形的損害原告可獲得的賠償額為15萬美元，最高賠償能到25萬美元。

我國法律法規(guī)也對AI深度偽造作出了一定規(guī)制。今年9月，網(wǎng)信辦發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》提出，AI生成合成內(nèi)容，應(yīng)當(dāng)添加顯式標(biāo)識和隱式標(biāo)識，前者可被明顯感知，后者添加在元數(shù)據(jù)中。

2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，“提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個人，并取得其單獨同意”“可能導(dǎo)致公眾混淆或者誤認的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標(biāo)識”等。

大型平臺也已經(jīng)開始重視這一問題。今年8月，谷歌宣布，將采取措施避免色情深度偽造內(nèi)容出現(xiàn)在搜索結(jié)果中。谷歌表示，將簡化受害者請求移除非自愿色情圖像的流程，并且會過濾掉相關(guān)搜索的所有色情結(jié)果，還會刪除重復(fù)的圖像。

今年2月，OpenAI團隊推出“AI生成內(nèi)容識別器”，旨在識別文本是由電腦自動生成還是人類撰寫，其本質(zhì)上是一個區(qū)別真實內(nèi)容和AI生成內(nèi)容的分類器。不過，OpenAI在博客中指出，此識別器對AI撰寫內(nèi)容的檢出成功率僅為26%。

吳沈括認為，從技術(shù)層面來看，對于應(yīng)用，如通過標(biāo)簽水印的方式，對非法使用的預(yù)防具有良好的效果，但不足以解決所有的問題，所以需要通過法律法規(guī)，從主體的資質(zhì)、業(yè)務(wù)規(guī)則、法律后果等多個層面做出規(guī)制。

游云庭提到，目前AI的識別技術(shù)和生成技術(shù)都在升級，技術(shù)能解決部分問題，但不能指望其能解決全部問題。“關(guān)于法規(guī)的改進，是永遠有滯后性的，會一直落后于技術(shù)的發(fā)展。”

此外，AI造假引發(fā)的法律風(fēng)險，責(zé)任該如何劃分、技術(shù)方該不該擔(dān)責(zé)也是一個問題。吳沈括表示，從責(zé)任主體來說，如果是以非法使用作為指向的，這種技術(shù)的提供是非法的，并且在現(xiàn)有法律中是予以處罰的。不過，針對他人的非法使用，技術(shù)方不直接承擔(dān)法律責(zé)任。如果屬于正常的技術(shù)范圍被用于違法行為，技術(shù)提供方有一個相應(yīng)恢復(fù)和改進技術(shù)設(shè)定的責(zé)任要求。

“技術(shù)提供方要不要承擔(dān)責(zé)任，背后還是看他有沒有履行法律法規(guī)要求的合規(guī)義務(wù)。如果履行了，哪怕出問題，也不應(yīng)該承擔(dān)責(zé)任，反之則要承擔(dān)責(zé)任。”游云庭認為。