2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)19日啟幕。峰會(huì)的主題是“擁抱以人為本、智能向善的數(shù)字未來(lái)——攜手構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體”，充分體現(xiàn)出更加聚焦人工智能技術(shù)、產(chǎn)業(yè)發(fā)展及其對(duì)人類(lèi)經(jīng)濟(jì)社會(huì)的影響，及時(shí)回應(yīng)各方對(duì)人工智能發(fā)展與治理的關(guān)切。

人工智能的迅猛發(fā)展正促進(jìn)一些經(jīng)濟(jì)形態(tài)的顛覆式變革，催生了不少新業(yè)態(tài)，而這一趨勢(shì)預(yù)計(jì)會(huì)越來(lái)越強(qiáng)烈；同時(shí)，人工智能的迅猛發(fā)展又帶來(lái)了被濫用甚至被“惡用”的風(fēng)險(xiǎn)。這也是本次峰會(huì)強(qiáng)調(diào)“智能向善”的重要背景和原因。

人工智能“為惡”的情況已屢見(jiàn)不鮮。其中包括：人工智能已成為電信詐騙領(lǐng)域最兇險(xiǎn)的手段，被人工智能“賦能”后的電信詐騙行為有可能成為全球最具危害性的有組織犯罪之一；通過(guò)變臉、變音等技術(shù)手段編造視頻對(duì)人格權(quán)的侵犯等。

人工智能可能帶來(lái)的各種風(fēng)險(xiǎn)和復(fù)雜挑戰(zhàn)，是全球當(dāng)前面臨的共同課題。而對(duì)于人工智能領(lǐng)域如何“揚(yáng)善除惡”，國(guó)際社會(huì)也正在抓緊立法立規(guī)。

去年8月15日，我國(guó)國(guó)家網(wǎng)信辦、發(fā)改委等多部門(mén)共同制定的《生成式人工智能服務(wù)管理暫行辦法》（下稱(chēng)《暫行辦法》）正式施行。這是我國(guó)現(xiàn)階段促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用的重要法規(guī)。這既是促進(jìn)生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務(wù)風(fēng)險(xiǎn)的現(xiàn)實(shí)需要。國(guó)際上，今年6月，歐盟制定的《人工智能法案》開(kāi)始生效。

但面對(duì)人工智能迅猛發(fā)展帶來(lái)的各種未知挑戰(zhàn)，相關(guān)的立法立規(guī)工作還需不斷完善。在《暫行辦法》施行之后，多位全國(guó)人大代表在今年全國(guó)人大會(huì)議期間又提出了關(guān)于制定人工智能法的議案。議案認(rèn)為，《暫行辦法》仍不能較全面涵蓋人工智能所引發(fā)的各類(lèi)問(wèn)題，不足以做好與現(xiàn)行法律的銜接工作，建議對(duì)人工智能發(fā)展和崛起所導(dǎo)致的各類(lèi)法律問(wèn)題開(kāi)展立法研究，適時(shí)制定人工智能法。

今年5月全國(guó)人大常委會(huì)公布的2024年度立法工作計(jì)劃將“人工智能健康發(fā)展等方面的立法項(xiàng)目”列入預(yù)備審議項(xiàng)目。同月國(guó)務(wù)院公布的2024年度立法工作計(jì)劃中，也明確了預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議人工智能法草案。這都表明我國(guó)正在加快人工智能領(lǐng)域的立法進(jìn)程。

相關(guān)立法應(yīng)該有引導(dǎo)人工智能“向善”的基本要求。以人工智能發(fā)展要符合倫理為基本要求，以加大對(duì)公眾的人格權(quán)、財(cái)產(chǎn)權(quán)等的保護(hù)為實(shí)現(xiàn)途徑。

我國(guó)早在2021年9月印發(fā)的《新一代人工智能倫理規(guī)范》中就明確提出，人工智能特定活動(dòng)應(yīng)遵守的倫理規(guī)范包括管理規(guī)范、研發(fā)規(guī)范、供應(yīng)規(guī)范和使用規(guī)范，從而建構(gòu)起人工智能全生命周期的倫理道德體系。其后又有《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》及上述《暫行辦法》等相繼發(fā)布，其中都將倫理作為重要一環(huán)。

倫理方面強(qiáng)有力約束的缺失，會(huì)導(dǎo)致人工智能應(yīng)用方面侵犯人格權(quán)、財(cái)產(chǎn)權(quán)。

大型生成式人工智能模型主要依據(jù)既有文本、圖像、音頻、視頻等生成輸出產(chǎn)品，如果這些輸出的信息是虛假的，就可能導(dǎo)致對(duì)他人名譽(yù)權(quán)等人格權(quán)的侵害。伴隨著這些侵害又可能帶來(lái)對(duì)財(cái)產(chǎn)權(quán)的侵害。今年4月，北京互聯(lián)網(wǎng)法院一審開(kāi)庭宣判全國(guó)首例AI生成聲音人格權(quán)侵權(quán)案，其中就既有對(duì)人格權(quán)的侵害，也有對(duì)包括收益權(quán)在內(nèi)的財(cái)產(chǎn)權(quán)的侵害。此案一審判決已經(jīng)發(fā)生法律效力。

總之，人工智能被廣泛應(yīng)用的時(shí)代正在到來(lái)，而人工智能技術(shù)和應(yīng)用在治理層面遇到的挑戰(zhàn)也正日益加劇，相關(guān)領(lǐng)域的立法需求日益緊迫。立法應(yīng)該將人們普遍關(guān)心的倫理規(guī)范作為總體要求，對(duì)已經(jīng)暴露出的侵犯人格權(quán)、財(cái)產(chǎn)權(quán)等方面加強(qiáng)規(guī)范，從而進(jìn)一步體現(xiàn)出鼓勵(lì)人工智能積極向善的立法方向。