3月4日，在十四屆全國人大三次會議開幕前，全國人大代表、小米集團(tuán)創(chuàng)始人雷軍向大會提交了五份建議，涉及自動駕駛、新能源汽車等領(lǐng)域，其中《關(guān)于加強(qiáng)“AI換臉擬聲”違法侵權(quán)重災(zāi)區(qū)治理的建議》強(qiáng)調(diào)了當(dāng)下對AI的不當(dāng)濫用，有可能使其成為違法侵權(quán)行為的重災(zāi)區(qū)。

雷軍與AI換臉亂象之間的關(guān)聯(lián)，可以追溯至2024年國慶假期期間，彼時網(wǎng)絡(luò)出現(xiàn)大量以雷軍名義發(fā)表的犀利言論視頻，但視頻內(nèi)的主角并非雷軍本人，而是由AI生成。相關(guān)視頻內(nèi)容涉及堵車、假期、調(diào)休、游戲等熱門話題，言辭尖銳，甚至包含粗話。有網(wǎng)友據(jù)此在微博評論區(qū)調(diào)侃雷軍，后者回以三個“憤怒”表情包。

此次兩會，雷軍建議加強(qiáng)治理“AI換臉擬聲”違法侵權(quán)重災(zāi)區(qū)，壓實(shí)平臺責(zé)任。雷軍認(rèn)為，人工智能滲透到千行百業(yè)，但“AI換臉擬聲”的不當(dāng)濫用也成為違法侵權(quán)行為的重災(zāi)區(qū)。AI深度合成技術(shù)所需素材獲取便利、技術(shù)使用門檻低、侵權(quán)主體及其手段隱蔽性強(qiáng)等特點(diǎn)，給治理整頓帶來較大挑戰(zhàn)。

雷軍建議，一是針對“AI換臉擬聲”等某一代表性問題，探索推出人工智能單行法，提高立法位階及其效力，在分級分類的基礎(chǔ)上進(jìn)行務(wù)實(shí)治理，明確“AI換臉擬聲”應(yīng)用邊界紅線，完善侵權(quán)證據(jù)規(guī)則，加大對利用人工智能技術(shù)實(shí)施犯罪行為的刑事處罰力度。

二是強(qiáng)化行業(yè)自律共治，壓實(shí)平臺等各方的責(zé)任。支持平臺企業(yè)開發(fā)可精準(zhǔn)識別人工智能深度合成內(nèi)容的技術(shù)能力，優(yōu)化升級通信軟件和內(nèi)容平臺巡查審核機(jī)制、投訴舉報機(jī)制、應(yīng)急處理機(jī)制，確保及時阻斷問題內(nèi)容傳播。

三是建議加強(qiáng)人工智能方面的法制宣傳教育，增強(qiáng)民眾的警惕性和鑒別力，聚焦重點(diǎn)人群，在中小學(xué)人工智能教材中加入倫理規(guī)范內(nèi)容，深入老年人聚居的社區(qū)開展相關(guān)知識普及活動，在全社會夯實(shí)“以人為本、智能向善”的人工智能發(fā)展生態(tài)。

有關(guān)部門對AI亂象的治理一直在進(jìn)行中。2024年9月14日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》，在《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)上，進(jìn)一步細(xì)化了AI合成內(nèi)容的標(biāo)識辦法。要求人工智能生成合成內(nèi)容標(biāo)識包括顯式標(biāo)識和隱式標(biāo)識。顯式標(biāo)識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可被用戶明顯感知到的標(biāo)識。隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識。

北京師范大學(xué)法學(xué)院副教授、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括對記者表示，內(nèi)容標(biāo)識是目前關(guān)于人工智能內(nèi)容治理中的一種非常重要的機(jī)制設(shè)計，它對于避免深度偽造帶來的安全風(fēng)險有非常大的價值，且通過標(biāo)準(zhǔn)的統(tǒng)一也有助于引導(dǎo)各方的業(yè)務(wù)規(guī)則、業(yè)務(wù)設(shè)計和業(yè)務(wù)模式，對于全鏈條的風(fēng)險防范具有非常重要的作用，也能有助于公眾識別AI內(nèi)容的真?zhèn)魏蜋?quán)威性。

世界范圍內(nèi)，OpenAI 團(tuán)隊推出“AI 生成內(nèi)容識別器”，識別文本是由電腦自動生成還是人類撰寫；谷歌發(fā)布AI 生成圖像識別工具，用戶可以通過上傳來源不明的圖片、執(zhí)行反向圖片搜索，了解到這張圖片被谷歌初次收錄的時間、最早出現(xiàn)的網(wǎng)站；微軟推出讓任何人都能識別Bing Image Creator和Microsoft Designer生成的圖像或視頻片段是否由AI生成的新功能。