人工智能技術(shù)的快速普及帶來諸多治理和安全挑戰(zhàn)，尤其是在AI換臉、AI謠言、數(shù)據(jù)隱私、模型安全等方面。此前有“靳東兩會(huì)建議AI換臉立法”“雷軍回應(yīng)國慶7天被AI雷軍罵了8天”等話題登上熱搜，今日公安部網(wǎng)安局發(fā)布消息，使用AI捏造“頂流明星在澳門輸10億”謠言男子被行拘。

3月14日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（簡(jiǎn)稱《標(biāo)識(shí)辦法》），自2025年9月1日起施行。

在答記者問環(huán)節(jié)，國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人回應(yīng)《標(biāo)識(shí)辦法》出臺(tái)背景時(shí)稱：近年來，人工智能技術(shù)快速發(fā)展，為生成合成文字、圖片、音頻、視頻等信息提供了便利工具，海量信息得以快速生成合成并在網(wǎng)絡(luò)平臺(tái)傳播，在促進(jìn)經(jīng)濟(jì)社會(huì)發(fā)展的同時(shí)，也產(chǎn)生了生成合成技術(shù)濫用、虛假信息傳播擴(kuò)散加劇等問題。經(jīng)深入開展調(diào)研、廣泛征求意見、多輪技術(shù)論證試點(diǎn)，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部、國家廣播電視總局制定了《標(biāo)識(shí)辦法》，進(jìn)一步規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)活動(dòng)。

《標(biāo)識(shí)辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識(shí)”關(guān)鍵點(diǎn)，通過標(biāo)識(shí)提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù)，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識(shí)行為，以合理成本提高安全性，促進(jìn)人工智能在文本對(duì)話、內(nèi)容制作、輔助設(shè)計(jì)等各應(yīng)用場(chǎng)景加快落地，同時(shí)減輕人工智能生成合成技術(shù)濫用危害，防范利用人工智能技術(shù)制作傳播虛假信息等風(fēng)險(xiǎn)行為，推動(dòng)人工智能健康有序發(fā)展。

總體思路上，有關(guān)負(fù)責(zé)人表示，一方面，《標(biāo)識(shí)辦法》作為規(guī)范性文件，進(jìn)一步細(xì)化標(biāo)識(shí)的具體實(shí)施規(guī)范；二是重點(diǎn)解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動(dòng)由生成到傳播各環(huán)節(jié)的全流程安全管理；三是統(tǒng)籌發(fā)展和安全，創(chuàng)新提出文本符號(hào)標(biāo)識(shí)、音頻節(jié)奏標(biāo)識(shí)、文件元數(shù)據(jù)標(biāo)識(shí)等低成本實(shí)施的可行方法；四是管理要求與技術(shù)標(biāo)準(zhǔn)一體化考慮，強(qiáng)制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》同步發(fā)布。

那么，強(qiáng)制性國家標(biāo)準(zhǔn)具體包括哪些方面？有關(guān)負(fù)責(zé)人表示，標(biāo)準(zhǔn)支撐《標(biāo)識(shí)辦法》，一是明確提供者添加文字、角標(biāo)、語音、節(jié)奏等顯式標(biāo)識(shí)的方法；二是明確服務(wù)提供者在文件中添加元數(shù)據(jù)隱式標(biāo)識(shí)的方法；三是在元數(shù)據(jù)隱式標(biāo)識(shí)設(shè)置了預(yù)留字段，可用于記錄標(biāo)識(shí)完整性、內(nèi)容一致性等安全防護(hù)信息，為促進(jìn)標(biāo)識(shí)技術(shù)創(chuàng)新發(fā)展和保護(hù)標(biāo)識(shí)安全性預(yù)留了空間。

瑞萊科技聯(lián)合創(chuàng)始人蕭子豪對(duì)第一財(cái)經(jīng)表示，近一年來利用AI換聲、換臉進(jìn)行詐騙、造謠等違法犯罪行為屢禁不止、愈演愈烈，呈顯著上升趨勢(shì)。犯罪行為變得更具迷惑性，也更加隱蔽。而AI技術(shù)衍生安全風(fēng)險(xiǎn)的治理問題是個(gè)非常復(fù)雜的社會(huì)問題，涉及很多方面。既要在法律法規(guī)層面事前規(guī)范引導(dǎo)、事后監(jiān)管懲戒，也需要有技術(shù)手段令A(yù)I更加安全、可控。

此次，考慮到企業(yè)需要時(shí)間充分理解相關(guān)規(guī)定和標(biāo)準(zhǔn)規(guī)范，針對(duì)性地開展能力建設(shè)和功能研發(fā)，基于標(biāo)識(shí)技術(shù)實(shí)施的復(fù)雜程度、試點(diǎn)試行的實(shí)踐經(jīng)驗(yàn)，設(shè)定《標(biāo)識(shí)辦法》和配套強(qiáng)制性國家標(biāo)準(zhǔn)有6個(gè)月左右的施行過渡期。