黨的二十屆三中全會審議通過的《中共中央關(guān)于進(jìn)一步全面深化改革 推進(jìn)中國式現(xiàn)代化的決定》（下稱《決定》）對健全網(wǎng)絡(luò)綜合治理體系作出系統(tǒng)部署，其中提出，要完善生成式人工智能發(fā)展和管理機(jī)制。

日前，中央網(wǎng)信辦主任莊榮文在接受新華社記者采訪時(shí)強(qiáng)調(diào)，（在生成式人工智能領(lǐng)域）要守牢安全底線，防范濫用風(fēng)險(xiǎn)。

截至目前，我國完成備案并上線、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型已達(dá)190多個(gè)，注冊用戶超過6億。下一步，將繼續(xù)促進(jìn)生成式人工智能技術(shù)在工業(yè)、農(nóng)業(yè)及教育、醫(yī)療、衛(wèi)生等領(lǐng)域落地應(yīng)用，激活人工智能技術(shù)賦能實(shí)體經(jīng)濟(jì)發(fā)展的作用，合力推動人工智能在傳統(tǒng)行業(yè)領(lǐng)域應(yīng)用中取得更大突破。

生成式人工智能是一把雙刃劍，在給許多領(lǐng)域帶來重大變革的同時(shí)，也產(chǎn)生或孕育著國家競爭力風(fēng)險(xiǎn)、技術(shù)安全風(fēng)險(xiǎn)、網(wǎng)絡(luò)安全風(fēng)險(xiǎn)、經(jīng)濟(jì)社會風(fēng)險(xiǎn)等各種風(fēng)險(xiǎn)。這是強(qiáng)調(diào)要完善生成式人工智能發(fā)展和管理機(jī)制的出發(fā)點(diǎn)所在。

生成式人工智能是世界性賽道，各國都非常重視，有一些經(jīng)驗(yàn)可以借鑒，但核心領(lǐng)域的創(chuàng)新只能依靠自己的努力。

核心領(lǐng)域有硬件和軟件兩個(gè)方面。對前者來說，要著力促進(jìn)自主可控算力芯片產(chǎn)業(yè)發(fā)展，這是生成式人工智能發(fā)展的基礎(chǔ)性要素，也是當(dāng)前和今后一段時(shí)間的“卡脖子”所在。

去年8月工業(yè)和信息化部等四部門發(fā)布的《新產(chǎn)業(yè)標(biāo)準(zhǔn)化領(lǐng)航工程實(shí)施方案（2023—2035年）》指出，要研制新型存儲、處理器等高端芯片標(biāo)準(zhǔn)，開展人工智能芯片、車用芯片、消費(fèi)電子用芯片等應(yīng)用標(biāo)準(zhǔn)研究。這將對我國自主可控算力芯片發(fā)展起到引導(dǎo)和激勵作用。

當(dāng)前，我國能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型已達(dá)190多個(gè)，但在產(chǎn)出成果和應(yīng)用效果上還與先進(jìn)國家存在一定差距，加速自主大模型研發(fā)和應(yīng)用仍是各方面臨的緊迫任務(wù)。“自主”是重點(diǎn)，發(fā)揮社會各方面的合力作用是路徑。

在生成式人工智能迅猛發(fā)展的同時(shí)，防范濫用風(fēng)險(xiǎn)也成為公眾關(guān)注的重要方面。正如上述采訪中莊榮文強(qiáng)調(diào)的那樣，今后要指導(dǎo)相關(guān)平臺企業(yè)合法合規(guī)向網(wǎng)民提供優(yōu)質(zhì)服務(wù)，防范技術(shù)濫用帶來的個(gè)人數(shù)據(jù)泄露、虛假信息生成、知識產(chǎn)權(quán)侵權(quán)等風(fēng)險(xiǎn)。

另外需要強(qiáng)調(diào)的是，需要防范的風(fēng)險(xiǎn)還包括涉及用戶生物識別信息、健康信息等個(gè)人數(shù)據(jù)泄露而引發(fā)的諸多問題。這涉及生成式人工智能應(yīng)用的倫理道德問題，技術(shù)發(fā)展和應(yīng)用不能違背倫理道德是一個(gè)基本要求。

為此，本月1日正式生效的歐盟《人工智能法案》明確，所有被認(rèn)為對人們的安全、生計(jì)和權(quán)利構(gòu)成明顯威脅的人工智能系統(tǒng)都將被禁止。

我國去年8月施行的《生成式人工智能服務(wù)管理暫行辦法》（下稱《暫行辦法》）明確規(guī)定，有關(guān)生成式人工智能的內(nèi)容要合法合規(guī)、禁止算法歧視、不得生成虛假信息、不得侵犯他人合法權(quán)益等相關(guān)內(nèi)容。這對生成式人工智能可能帶來的倫理道德風(fēng)險(xiǎn)具有重要的警示作用。

完善生成式人工智能發(fā)展和管理機(jī)制還需要加強(qiáng)法規(guī)建設(shè)，并進(jìn)而形成協(xié)同共治的局面。

在加強(qiáng)法規(guī)建設(shè)方面，《暫行辦法》的制定施行在全球范圍內(nèi)具有領(lǐng)先意義，但這僅僅是一部行政法規(guī)，還有較大的提升空間。

在今年的全國兩會期間，有多名人大代表提出了關(guān)于制定人工智能法的議案，建議對人工智能發(fā)展和崛起所導(dǎo)致的各類法律問題開展立法研究，適時(shí)制定出臺人工智能法。因?yàn)檫@些代表認(rèn)為，《暫行辦法》仍不能較全面地涵蓋人工智能所引發(fā)的各類問題，不足以做好與現(xiàn)行法律的銜接工作。

在協(xié)同共治方面，要進(jìn)一步推動人工智能的安全和應(yīng)用治理，政府監(jiān)管、行業(yè)自治、企業(yè)自律、社會監(jiān)督協(xié)調(diào)一致。

總而言之，近年來，我國生成式人工智能快速發(fā)展，新技術(shù)不斷突破，新業(yè)態(tài)持續(xù)涌現(xiàn)，為經(jīng)濟(jì)社會發(fā)展注入了強(qiáng)勁動能，但也面臨著許多亟待解決的問題，包括強(qiáng)化自主可控、引導(dǎo)和規(guī)范應(yīng)用落地、防范濫用風(fēng)險(xiǎn)、實(shí)現(xiàn)協(xié)同共治等。這些問題的解決將為推動生成式人工智能產(chǎn)業(yè)發(fā)展、技術(shù)進(jìn)步與安全保障提供堅(jiān)實(shí)基礎(chǔ)。