3月4日，在十四屆全國(guó)人大三次會(huì)議開(kāi)幕前，全國(guó)人大代表、小米集團(tuán)創(chuàng)始人雷軍向大會(huì)提交了五份建議，涉及自動(dòng)駕駛、新能源汽車(chē)等領(lǐng)域，其中《關(guān)于加強(qiáng)“AI換臉擬聲”違法侵權(quán)重災(zāi)區(qū)治理的建議》強(qiáng)調(diào)了當(dāng)下對(duì)AI的不當(dāng)濫用，有可能使其成為違法侵權(quán)行為的重災(zāi)區(qū)。

雷軍與AI換臉亂象之間的關(guān)聯(lián)，可以追溯至2024年國(guó)慶假期期間，彼時(shí)網(wǎng)絡(luò)出現(xiàn)大量以雷軍名義發(fā)表的犀利言論視頻，但視頻內(nèi)的主角并非雷軍本人，而是由AI生成。相關(guān)視頻內(nèi)容涉及堵車(chē)、假期、調(diào)休、游戲等熱門(mén)話(huà)題，言辭尖銳，甚至包含粗話(huà)。有網(wǎng)友據(jù)此在微博評(píng)論區(qū)調(diào)侃雷軍，后者回以三個(gè)“憤怒”表情包。

此次兩會(huì)，雷軍建議加強(qiáng)治理“AI換臉擬聲”違法侵權(quán)重災(zāi)區(qū)，壓實(shí)平臺(tái)責(zé)任。雷軍認(rèn)為，人工智能滲透到千行百業(yè)，但“AI換臉擬聲”的不當(dāng)濫用也成為違法侵權(quán)行為的重災(zāi)區(qū)。AI深度合成技術(shù)所需素材獲取便利、技術(shù)使用門(mén)檻低、侵權(quán)主體及其手段隱蔽性強(qiáng)等特點(diǎn)，給治理整頓帶來(lái)較大挑戰(zhàn)。

雷軍建議，一是針對(duì)“AI換臉擬聲”等某一代表性問(wèn)題，探索推出人工智能單行法，提高立法位階及其效力，在分級(jí)分類(lèi)的基礎(chǔ)上進(jìn)行務(wù)實(shí)治理，明確“AI換臉擬聲”應(yīng)用邊界紅線(xiàn)，完善侵權(quán)證據(jù)規(guī)則，加大對(duì)利用人工智能技術(shù)實(shí)施犯罪行為的刑事處罰力度。

二是強(qiáng)化行業(yè)自律共治，壓實(shí)平臺(tái)等各方的責(zé)任。支持平臺(tái)企業(yè)開(kāi)發(fā)可精準(zhǔn)識(shí)別人工智能深度合成內(nèi)容的技術(shù)能力，優(yōu)化升級(jí)通信軟件和內(nèi)容平臺(tái)巡查審核機(jī)制、投訴舉報(bào)機(jī)制、應(yīng)急處理機(jī)制，確保及時(shí)阻斷問(wèn)題內(nèi)容傳播。

三是建議加強(qiáng)人工智能方面的法制宣傳教育，增強(qiáng)民眾的警惕性和鑒別力，聚焦重點(diǎn)人群，在中小學(xué)人工智能教材中加入倫理規(guī)范內(nèi)容，深入老年人聚居的社區(qū)開(kāi)展相關(guān)知識(shí)普及活動(dòng)，在全社會(huì)夯實(shí)“以人為本、智能向善”的人工智能發(fā)展生態(tài)。

有關(guān)部門(mén)對(duì)AI亂象的治理一直在進(jìn)行中。2024年9月14日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》，在《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)上，進(jìn)一步細(xì)化了AI合成內(nèi)容的標(biāo)識(shí)辦法。要求人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場(chǎng)景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可被用戶(hù)明顯感知到的標(biāo)識(shí)。隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶(hù)明顯感知到的標(biāo)識(shí)。

北京師范大學(xué)法學(xué)院副教授、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括對(duì)記者表示，內(nèi)容標(biāo)識(shí)是目前關(guān)于人工智能內(nèi)容治理中的一種非常重要的機(jī)制設(shè)計(jì)，它對(duì)于避免深度偽造帶來(lái)的安全風(fēng)險(xiǎn)有非常大的價(jià)值，且通過(guò)標(biāo)準(zhǔn)的統(tǒng)一也有助于引導(dǎo)各方的業(yè)務(wù)規(guī)則、業(yè)務(wù)設(shè)計(jì)和業(yè)務(wù)模式，對(duì)于全鏈條的風(fēng)險(xiǎn)防范具有非常重要的作用，也能有助于公眾識(shí)別AI內(nèi)容的真?zhèn)魏蜋?quán)威性。

世界范圍內(nèi)，OpenAI 團(tuán)隊(duì)推出“AI 生成內(nèi)容識(shí)別器”，識(shí)別文本是由電腦自動(dòng)生成還是人類(lèi)撰寫(xiě)；谷歌發(fā)布AI 生成圖像識(shí)別工具，用戶(hù)可以通過(guò)上傳來(lái)源不明的圖片、執(zhí)行反向圖片搜索，了解到這張圖片被谷歌初次收錄的時(shí)間、最早出現(xiàn)的網(wǎng)站；微軟推出讓任何人都能識(shí)別Bing Image Creator和Microsoft Designer生成的圖像或視頻片段是否由AI生成的新功能。