目前，我國生成式人工智能技術(shù)創(chuàng)新、產(chǎn)品開發(fā)與應(yīng)用還處在早期階段。雖然日常生活場(chǎng)景領(lǐng)域出現(xiàn)了譬如AI復(fù)活、AI音樂等，但也由于生成式人工智能訓(xùn)練中的數(shù)據(jù)瑕疵、數(shù)據(jù)濫用等問題，給數(shù)據(jù)安全保護(hù)和有序開發(fā)開放及流通帶來了巨大挑戰(zhàn)。

數(shù)據(jù)訓(xùn)練是保證人工智能應(yīng)用高質(zhì)量落地的核心。隨著生成式人工智能大模型產(chǎn)品的廣泛應(yīng)用，數(shù)據(jù)訓(xùn)練過程關(guān)涉到用戶基本數(shù)據(jù)、各主體行為軌跡及多元主體復(fù)雜的權(quán)益變動(dòng)，這可能對(duì)市場(chǎng)競(jìng)爭(zhēng)、企業(yè)創(chuàng)新甚或國家安全產(chǎn)生負(fù)面影響。

由此，需確保數(shù)據(jù)來源的合法性，提升數(shù)據(jù)質(zhì)量的可信度，遵循“數(shù)據(jù)來源合法—數(shù)據(jù)質(zhì)量可信—數(shù)據(jù)價(jià)值釋放”的基本要求對(duì)標(biāo)數(shù)據(jù)訓(xùn)練的不同階段。在數(shù)據(jù)計(jì)算與應(yīng)用階段，應(yīng)注意深度合成技術(shù)帶來的訓(xùn)練數(shù)據(jù)污染和運(yùn)行數(shù)據(jù)異常；在數(shù)據(jù)開放和共享階段，應(yīng)全面準(zhǔn)確審視個(gè)人信息保護(hù)和知識(shí)產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)，遵循科技發(fā)展的規(guī)律，平衡技術(shù)可及性、實(shí)踐可行性以及價(jià)值正當(dāng)性之間的關(guān)系，在夯實(shí)安全發(fā)展的基礎(chǔ)上為創(chuàng)新發(fā)展預(yù)留空間。生成式人工智能數(shù)據(jù)訓(xùn)練應(yīng)在優(yōu)化協(xié)同監(jiān)管架構(gòu)及方法的同時(shí)，促進(jìn)創(chuàng)新發(fā)展，兼顧多元主體的正當(dāng)權(quán)益。

以安全為底線，健全制度規(guī)則及標(biāo)準(zhǔn)

法律法規(guī)的制定不僅要注重科技發(fā)展的規(guī)律，還應(yīng)當(dāng)在夯實(shí)安全發(fā)展的基礎(chǔ)上為創(chuàng)新發(fā)展預(yù)留空間。對(duì)生成式人工智能數(shù)據(jù)訓(xùn)練的治理不能固守以往慣用的數(shù)據(jù)控制安全保護(hù)模式，僅僅把住數(shù)據(jù)的閘口，而是應(yīng)當(dāng)以安全為底線，健全制度規(guī)則，在最大范圍內(nèi)提升數(shù)據(jù)使用的自由度，避免對(duì)合理的數(shù)據(jù)采集、獲取行為施加不必要的限制，但對(duì)篡改、編造、非法儲(chǔ)存、濫用數(shù)據(jù)以及惡意植入數(shù)據(jù)偏見等行為要加以規(guī)制。

第一，加快完善數(shù)據(jù)格式等標(biāo)準(zhǔn)體系，在降低數(shù)據(jù)流通使用成本的同時(shí)，更好保障數(shù)據(jù)流通安全。為更好地規(guī)范生成式人工智能數(shù)據(jù)訓(xùn)練，需要根據(jù)數(shù)據(jù)作為生產(chǎn)要素的特點(diǎn)，從數(shù)據(jù)定價(jià)、數(shù)據(jù)爬取、數(shù)據(jù)反壟斷、數(shù)據(jù)流通技術(shù)保障等方面配置實(shí)現(xiàn)數(shù)據(jù)社會(huì)價(jià)值的新型產(chǎn)權(quán)規(guī)則。數(shù)據(jù)權(quán)利配置不是對(duì)數(shù)據(jù)控制的保護(hù)，而是旨在保護(hù)數(shù)據(jù)加工使用和流通利用之利益，以實(shí)現(xiàn)數(shù)據(jù)社會(huì)化流通利用為目標(biāo)，促進(jìn)數(shù)據(jù)等語料庫的有效流通使用。因此，各業(yè)務(wù)系統(tǒng)需要依據(jù)國標(biāo)、行標(biāo)、企業(yè)內(nèi)部數(shù)據(jù)標(biāo)準(zhǔn)等，在業(yè)務(wù)系統(tǒng)建設(shè)時(shí)準(zhǔn)確落標(biāo)，明確責(zé)任，保證數(shù)據(jù)質(zhì)量實(shí)現(xiàn)全過程的管理。

第二，合理制定數(shù)據(jù)訓(xùn)練中知識(shí)產(chǎn)權(quán)利益分配規(guī)則，實(shí)現(xiàn)高質(zhì)量語料跨平臺(tái)調(diào)取和使用，依法依規(guī)避免侵權(quán)風(fēng)險(xiǎn)。科技的高速發(fā)展與迭代帶來了語料庫海量數(shù)據(jù)的累積與實(shí)時(shí)的數(shù)據(jù)更新，我國與人工智能、數(shù)據(jù)相關(guān)的法律制度主要有《民法典》《著作權(quán)法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》以及《生成式人工智能服務(wù)管理暫行辦法》，在此基礎(chǔ)上需要繼續(xù)完善相關(guān)的法律制度，在知識(shí)產(chǎn)權(quán)保護(hù)層面，還需要針對(duì)生成式人工智能數(shù)據(jù)訓(xùn)練形成體系化的法律規(guī)定，建構(gòu)起貫穿數(shù)據(jù)訓(xùn)練全周期的保護(hù)體系。

第三，提升數(shù)據(jù)標(biāo)注水平及人才培養(yǎng)，做好數(shù)據(jù)事前審查，有效保障生成式人工智能的高質(zhì)量、高效率輸出。《中國AIGC數(shù)據(jù)標(biāo)注產(chǎn)業(yè)全景報(bào)告（2023）》顯示，我國數(shù)據(jù)標(biāo)注服務(wù)貫穿大模型全生命周期，數(shù)據(jù)標(biāo)注朝著知識(shí)密集型轉(zhuǎn)移，上下游合作關(guān)系緊密耦合，而且標(biāo)注人才缺口較大。為此，在規(guī)范生成式人工智能數(shù)據(jù)訓(xùn)練，提升數(shù)據(jù)事前審查水平，注重?cái)?shù)據(jù)標(biāo)注的客觀化的同時(shí)，還應(yīng)加快培養(yǎng)高水平復(fù)合型數(shù)字人才，為生成式人工智能的高質(zhì)量發(fā)展提供人才保障。

以規(guī)范為基線，優(yōu)化協(xié)同監(jiān)管架構(gòu)及方法

規(guī)范是生成式人工智能數(shù)據(jù)訓(xùn)練的治理基線，發(fā)展是生成式人工智能數(shù)據(jù)訓(xùn)練的治理目標(biāo)。社會(huì)結(jié)構(gòu)中的不同治理主體應(yīng)基于不同的價(jià)值追求和思維導(dǎo)向構(gòu)建并優(yōu)化生成式人工智能數(shù)據(jù)訓(xùn)練監(jiān)管框架。當(dāng)前生成式人工智能數(shù)據(jù)訓(xùn)練需在健康規(guī)范的秩序下開展，在法治框架下由多方主體協(xié)同合作促進(jìn)其規(guī)范發(fā)展。政府、產(chǎn)業(yè)界和學(xué)術(shù)界在規(guī)范生成式人工智能開發(fā)和使用方面都扮演著至關(guān)重要的角色，生成式人工智能服務(wù)的提供者、相關(guān)行業(yè)組織以及中央和地方各級(jí)主管部門都應(yīng)依法維護(hù)生成式人工智能的規(guī)范發(fā)展。

從政府層面出發(fā)，政府部門一方面應(yīng)積極制定數(shù)據(jù)安全標(biāo)準(zhǔn)，確定違規(guī)行為。制定明確的數(shù)據(jù)安全標(biāo)準(zhǔn)是確保生成式人工智能系統(tǒng)的安全性的關(guān)鍵步驟，這些標(biāo)準(zhǔn)應(yīng)該包括數(shù)據(jù)采集、存儲(chǔ)、傳輸和處理的最佳實(shí)踐，以及數(shù)據(jù)驗(yàn)證和過濾的要求。政府在制定數(shù)據(jù)安全標(biāo)準(zhǔn)方面應(yīng)發(fā)揮領(lǐng)導(dǎo)作用，確保標(biāo)準(zhǔn)的制定具有權(quán)威性和可強(qiáng)制執(zhí)行性。另一方面，政府還需要確保已制定的法律法規(guī)能夠得到嚴(yán)格執(zhí)行。《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)是維護(hù)生成式人工智能數(shù)據(jù)訓(xùn)練高效合規(guī)的主要規(guī)范。執(zhí)法部門應(yīng)以這些規(guī)范為治理基線，明確判斷數(shù)據(jù)污染、惡意攻擊以及其他危害AI系統(tǒng)和用戶的行為是否違法，對(duì)違法行為依法處罰，切實(shí)將執(zhí)法必嚴(yán)、違法必究落地落實(shí)。

從產(chǎn)業(yè)界和學(xué)術(shù)界的層間出發(fā)，產(chǎn)業(yè)界和學(xué)術(shù)界應(yīng)該與政府部門加強(qiáng)合作，共同探索科學(xué)合理的監(jiān)管邊界。生成式人工智能加速和深化了跨部門的數(shù)據(jù)共享、流程再造和業(yè)務(wù)聯(lián)動(dòng)，面對(duì)數(shù)據(jù)訓(xùn)練運(yùn)行場(chǎng)景的多維性、商業(yè)模式的多樣性及行為的復(fù)雜性，全能政府思維下單一的強(qiáng)監(jiān)管模式，難以適應(yīng)生成式人工智能的發(fā)展趨勢(shì)，甚至?xí)糁粕墒饺斯ぶ悄墚a(chǎn)業(yè)的創(chuàng)新發(fā)展。因此，需要產(chǎn)業(yè)界和學(xué)術(shù)界進(jìn)行優(yōu)勢(shì)整合，并與政府協(xié)同合作，共同助力生成式人工智能的數(shù)據(jù)訓(xùn)練。

通過政府、產(chǎn)業(yè)界和學(xué)術(shù)界的合作成立專業(yè)的數(shù)據(jù)治理機(jī)構(gòu)，進(jìn)行全面的數(shù)據(jù)治理，制定可行的數(shù)據(jù)管理制度及運(yùn)營規(guī)則，創(chuàng)新數(shù)據(jù)安全監(jiān)測(cè)預(yù)警技術(shù)，綜合運(yùn)用非現(xiàn)場(chǎng)、物聯(lián)感知、穿透式等新型監(jiān)管手段，形成具有實(shí)際效果的數(shù)據(jù)合規(guī)監(jiān)管體系，為生成式人工智能的開發(fā)和使用提供良好的法治環(huán)境。同時(shí)，完善數(shù)據(jù)質(zhì)量監(jiān)測(cè)模型、健全數(shù)據(jù)備案制度和危機(jī)管理機(jī)制，對(duì)數(shù)據(jù)違規(guī)行為依法處理。

以發(fā)展為主線，兼顧多元主體正當(dāng)權(quán)益

近年來，生成式人工智能不斷進(jìn)行顛覆式創(chuàng)新，在知識(shí)、技術(shù)與應(yīng)用層面的發(fā)展勢(shì)如破竹。在積極推進(jìn)生成式人工智能數(shù)據(jù)訓(xùn)練創(chuàng)新發(fā)展的同時(shí)，應(yīng)堅(jiān)持科技以人為本，在科技創(chuàng)新活動(dòng)中權(quán)衡效率與安全、利益與風(fēng)險(xiǎn)的價(jià)值沖突，兼顧維護(hù)多元主體權(quán)益。

第一，堅(jiān)持以人為本，恪守生成式人工智能數(shù)據(jù)訓(xùn)練服務(wù)于人的需要。作為數(shù)據(jù)主體、決策主體、勞動(dòng)主體的數(shù)據(jù)用戶，在享受智慧便捷的數(shù)字生活中逐漸喪失了自主選擇權(quán)。因此，應(yīng)堅(jiān)持科技以人為本的理念，維護(hù)數(shù)據(jù)用戶的自主選擇權(quán)，這是生成式人工智能數(shù)據(jù)訓(xùn)練治理的基本導(dǎo)向。

第二，堅(jiān)持公平公正，避免生成式人工智能數(shù)據(jù)訓(xùn)練中的偏見、歧視或隱私侵權(quán)等問題。生成式人工智能始終是人類設(shè)計(jì)和控制的產(chǎn)品，盡管其數(shù)據(jù)訓(xùn)練過程已經(jīng)從簡(jiǎn)單的計(jì)算演進(jìn)為機(jī)器自學(xué)習(xí)編碼，但其依然不具備自主自為性。基于此，在部署生成式人工智能數(shù)據(jù)訓(xùn)練時(shí)，要提高其透明性和可解釋性，特別要尊重用戶的隱私權(quán)、自決權(quán)等人格權(quán)利，保障用戶的算法解釋權(quán)充分實(shí)現(xiàn)，讓用戶知道生成式人工智能是如何收集和使用他們的數(shù)據(jù)的，以及用戶應(yīng)如何控制和保護(hù)自己的數(shù)據(jù)。在評(píng)估生成式人工智能數(shù)據(jù)訓(xùn)練時(shí)，要考慮其對(duì)不同群體和利益相關(guān)者的影響，并及時(shí)糾正或改進(jìn)數(shù)據(jù)訓(xùn)練中存在的問題或缺陷。

第三，堅(jiān)持公開透明，提高生成式人工智能數(shù)據(jù)訓(xùn)練行為的可解釋性。生成式人工智能數(shù)據(jù)訓(xùn)練的提供方與接受方在信息和技術(shù)上處于明顯的不對(duì)等地位，用戶無法了解數(shù)據(jù)訓(xùn)練的運(yùn)行規(guī)則，其中難免存在對(duì)接受方不公平的因素。自主學(xué)習(xí)與自我迭代使生成式人工智能數(shù)據(jù)訓(xùn)練成為難以解釋的技術(shù)黑箱，由此引發(fā)問責(zé)的倫理難題。因此，應(yīng)通過數(shù)據(jù)備案、數(shù)據(jù)風(fēng)險(xiǎn)評(píng)估、數(shù)據(jù)審查等方式使數(shù)據(jù)訓(xùn)練透明可釋。

第四，堅(jiān)持開放包容，加強(qiáng)生成式人工智能數(shù)據(jù)訓(xùn)練過程及產(chǎn)業(yè)的國際合作。目前，各國針對(duì)生成式人工智能數(shù)據(jù)訓(xùn)練仍未制定單獨(dú)的成文法，生成式人工智能的跨國性意味著國際合作至關(guān)重要，基于制度銜接與法律秩序穩(wěn)定性的考量，我國可以借鑒域外對(duì)文本與數(shù)據(jù)挖掘技術(shù)的法律規(guī)制。各國應(yīng)加強(qiáng)數(shù)據(jù)訓(xùn)練協(xié)同合作，通過制定國際標(biāo)準(zhǔn)和協(xié)議，更好地應(yīng)對(duì)生成式人工智能數(shù)據(jù)訓(xùn)練風(fēng)險(xiǎn)。

對(duì)生成式人工智能數(shù)據(jù)訓(xùn)練的治理是一項(xiàng)復(fù)雜且長期的工程?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》作為我國在新興領(lǐng)域的立法成果，體現(xiàn)了我國對(duì)新技術(shù)新應(yīng)用規(guī)制的持續(xù)推進(jìn)。《生成式人工智能服務(wù)管理暫行辦法》第七條雖然為生成式人工智能服務(wù)提供者數(shù)據(jù)訓(xùn)練指引了方向，但是仍存在制度設(shè)計(jì)上的不足，這就需要進(jìn)一步明確生成式人工智能數(shù)據(jù)訓(xùn)練的定位、定向與定則，夯實(shí)基本原則，健全相關(guān)制度規(guī)則及標(biāo)準(zhǔn)，優(yōu)化協(xié)同監(jiān)管架構(gòu)及方法，兼顧多元主體的正當(dāng)權(quán)益，為生成式人工智能數(shù)據(jù)訓(xùn)練提供可靠可信可行的法治保障，著實(shí)有效提升生成式人工智能創(chuàng)新發(fā)展的質(zhì)量。

（陳兵系南開大學(xué)競(jìng)爭(zhēng)法研究中心主任、法學(xué)院副院長，傅小鷗系南開大學(xué)競(jìng)爭(zhēng)法研究中心研究助理）