在2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)上，“安全”成為備受矚目的話題之一。面對(duì)更美好的“數(shù)字未來”的建設(shè)目標(biāo)，安全發(fā)展是底線，創(chuàng)新發(fā)展是主線，普惠發(fā)展是基線?；ヂ?lián)網(wǎng)誕生之初，基本宗旨就是為了實(shí)現(xiàn)普惠共贏，為此，在其創(chuàng)新發(fā)展中更需要夯實(shí)安全底線。當(dāng)前，互聯(lián)網(wǎng)社會(huì)發(fā)展步入數(shù)智化時(shí)代，以數(shù)據(jù)、算法與算力為核心驅(qū)動(dòng)的人工智能技術(shù)及產(chǎn)業(yè)已經(jīng)成為“數(shù)字未來”發(fā)展的方向。

隨后，中央網(wǎng)信辦、工信部、公安部、市場(chǎng)監(jiān)管總局四部門聯(lián)合發(fā)布了開展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問題治理”專項(xiàng)行動(dòng)，重點(diǎn)整治同質(zhì)化推送營(yíng)造“信息繭房”、違規(guī)操縱干預(yù)榜單炒作熱點(diǎn)、盲目追求利益侵害新就業(yè)形態(tài)勞動(dòng)者權(quán)益、利用算法實(shí)施大數(shù)據(jù)“殺熟”、算法向上向善服務(wù)缺失侵害用戶合法權(quán)益等重點(diǎn)問題，督促企業(yè)深入對(duì)照自查整改，進(jìn)一步提升算法安全能力。其中，基于海量數(shù)據(jù)所訓(xùn)練的人工智能算法及應(yīng)用場(chǎng)景成為關(guān)注的重點(diǎn)，其實(shí)質(zhì)是如何實(shí)現(xiàn)數(shù)據(jù)正當(dāng)獲取、合法使用及用戶個(gè)人信息保護(hù)之間的平衡，是對(duì)人工智能算法創(chuàng)新應(yīng)用過程中經(jīng)濟(jì)價(jià)值與社會(huì)價(jià)值的動(dòng)態(tài)統(tǒng)籌?；诖?，結(jié)合此次專項(xiàng)行動(dòng)部署，以及《個(gè)人信息保護(hù)法》實(shí)施三周年，有必要對(duì)《個(gè)人信息保護(hù)法》實(shí)施成效給予總結(jié)，并就下一步實(shí)施重難點(diǎn)予以展開。

《個(gè)人信息保護(hù)法》實(shí)施效果顯著

2021年11月1日《個(gè)人信息保護(hù)法》正式施行，回應(yīng)了社會(huì)公眾對(duì)于個(gè)人隱私保護(hù)的現(xiàn)實(shí)需求。在此之前，不少互聯(lián)網(wǎng)平臺(tái)支持和展開的各類消費(fèi)場(chǎng)景，皆出現(xiàn)了通過收集個(gè)人數(shù)據(jù)并利用大數(shù)據(jù)分析等算法技術(shù)，實(shí)現(xiàn)對(duì)不同消費(fèi)者進(jìn)行差異化定價(jià)的現(xiàn)象，即“大數(shù)據(jù)殺熟”。諸如此類違規(guī)收集、利用個(gè)人信息事件的頻發(fā)，催生了公眾對(duì)于個(gè)人信息保護(hù)的強(qiáng)烈需求，推動(dòng)了《個(gè)人信息保護(hù)法》的出臺(tái)。

在制度設(shè)計(jì)上，《個(gè)人信息保護(hù)法》以法律形式確認(rèn)了對(duì)于個(gè)人信息保護(hù)與利用的基本理念，確立了“告知-知情-同意”的個(gè)人信息處理規(guī)則，明確了敏感個(gè)人信息的處理規(guī)則與個(gè)人信息跨境提供規(guī)則，設(shè)立了個(gè)人信息處理活動(dòng)中的個(gè)人權(quán)利與個(gè)人信息處理者的義務(wù)，形成了民事責(zé)任、行政責(zé)任與刑事責(zé)任三重責(zé)任保護(hù)機(jī)制。

實(shí)施效果上，三年來《個(gè)人信息保護(hù)法》的施行不僅為用戶保護(hù)個(gè)人隱私提供了法律依據(jù)，也為個(gè)人信息處理活動(dòng)設(shè)立了明確的法律規(guī)則。

首先，個(gè)人信息相關(guān)配套制度不斷完善，《APP違法違規(guī)收集使用個(gè)人信息行為認(rèn)定方法》《常見類型移動(dòng)互聯(lián)網(wǎng)應(yīng)用程序必要個(gè)人信息范圍規(guī)定》細(xì)化了個(gè)人信息保護(hù)執(zhí)法依據(jù)，《個(gè)人信息出境標(biāo)準(zhǔn)合同辦法》《數(shù)據(jù)出境安全評(píng)估辦法》《規(guī)范和促進(jìn)數(shù)據(jù)跨境流動(dòng)規(guī)定》等為個(gè)人數(shù)據(jù)跨境提供指引，《生成式人工智能服務(wù)管理暫行辦法》《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》回應(yīng)了新情況下的個(gè)人信息保護(hù)。

其次，個(gè)人信息保護(hù)執(zhí)法不斷強(qiáng)化，例如，2022年，國(guó)家網(wǎng)信辦依法集中處理了135款違法違規(guī)處理公民個(gè)人信息的APP；2024年，工信部曝光17款A(yù)PP侵犯用戶隱私權(quán)；2020年起，公安部每年開展“凈網(wǎng)”專項(xiàng)行動(dòng)，打擊侵犯公民個(gè)人信息違法犯罪活動(dòng)等。

最后，企業(yè)與公眾的個(gè)人信息保護(hù)意識(shí)顯著提升，企業(yè)更加注重個(gè)人信息保護(hù)合規(guī)管理，公眾對(duì)于個(gè)人信息處理規(guī)則和個(gè)人權(quán)益的認(rèn)知更加深刻。

個(gè)人信息保護(hù)面臨人工智能技術(shù)創(chuàng)新與應(yīng)用的挑戰(zhàn)

近年來，生成式人工智能的快速發(fā)展使得數(shù)據(jù)要素的重要性與價(jià)值被進(jìn)一步發(fā)掘，個(gè)人信息承載了更多屬性，而人工智能擁有復(fù)雜的技術(shù)邏輯，其決策自主性的提升與決策過程的不透明導(dǎo)致原有的法律規(guī)制產(chǎn)生了困難，為個(gè)人信息保護(hù)帶來了挑戰(zhàn)。

從技術(shù)創(chuàng)新與應(yīng)用層面而言，人工智能的應(yīng)用對(duì)訓(xùn)練數(shù)據(jù)的大量需求會(huì)推動(dòng)個(gè)人信息的收集行為，容易產(chǎn)生非法收集和處理個(gè)人信息的情況。同時(shí)，人工智能通過機(jī)器學(xué)習(xí)與深度學(xué)習(xí)等技術(shù)對(duì)個(gè)人信息進(jìn)行分析，以挖掘出信息主體的行為偏好與消費(fèi)需求等進(jìn)行“用戶畫像”，會(huì)增加個(gè)人信息的濫用。在生成式人工智能應(yīng)用的加持下，還會(huì)通過與用戶進(jìn)行交互得到的數(shù)據(jù)對(duì)結(jié)果進(jìn)行優(yōu)化，用戶在對(duì)話式的過程中容易無意識(shí)地提供個(gè)人敏感信息。相較于3年前，當(dāng)下的人工智能應(yīng)用對(duì)于個(gè)人信息的分析和挖掘程度進(jìn)一步增強(qiáng)，各類搭載人工智能的家具設(shè)備、可穿戴設(shè)備涉及的個(gè)人信息種類與數(shù)量大大增加，也使得個(gè)人信息的交互共享越發(fā)頻繁，增加了個(gè)人信息濫用與隱私泄露風(fēng)險(xiǎn)。

從法律層面而言，《個(gè)人信息保護(hù)法》確立了“告知同意”的個(gè)人信息處理基礎(chǔ)原則，但實(shí)際操作中，一方面，人工智能大規(guī)模的訓(xùn)練數(shù)據(jù)難以實(shí)現(xiàn)真正溯源，數(shù)據(jù)處理者在客觀上難以實(shí)現(xiàn)對(duì)大規(guī)模數(shù)據(jù)涉及的每一信息主體完成“告知同意”程序，用戶對(duì)于個(gè)人信息是否被用于人工智能的數(shù)據(jù)訓(xùn)練仍缺乏知情權(quán)，“知情同意”原則難以落到實(shí)處。另一方面，人工智能算法的難以解釋也增加了決策的不透明度，對(duì)于個(gè)人信息處理者有權(quán)未經(jīng)同意在“合理范圍”內(nèi)處理的已公開個(gè)人信息，無論是依據(jù)“目的限定原則”還是“場(chǎng)景理論”，生成式人工智能都難以對(duì)“合理范圍”進(jìn)行解釋。

從公共層面而言，隨著政府間數(shù)據(jù)共享范圍的不斷擴(kuò)大，涉及個(gè)人信息的公共數(shù)據(jù)可以迅速形成對(duì)個(gè)體行為軌跡、個(gè)性需求、認(rèn)知水平、財(cái)務(wù)狀況等方面的詳細(xì)畫像，這類數(shù)據(jù)一旦泄露或被非法利用，將嚴(yán)重?fù)p害個(gè)人隱私與公共利益，甚至對(duì)國(guó)家安全造成影響。其次，例如人臉識(shí)別技術(shù)對(duì)于個(gè)人信息的收集，可能會(huì)侵犯?jìng)€(gè)人隱私，但也可能有利于保護(hù)公共利益，此種情況下，個(gè)人信息保護(hù)與社會(huì)公共利益的張力進(jìn)一步放大。同時(shí)，人工智能的應(yīng)用進(jìn)一步挖掘了個(gè)人信息的價(jià)值，然而人工智能也使得個(gè)人信息更易受到侵害，隱私保護(hù)與市場(chǎng)競(jìng)爭(zhēng)效率之間的關(guān)系如何協(xié)調(diào)也成為現(xiàn)實(shí)問題。

個(gè)人信息保護(hù)需更加精細(xì)精準(zhǔn)

面對(duì)個(gè)人信息承載的個(gè)人隱私、公共利益與競(jìng)爭(zhēng)價(jià)值多元屬性，需秉持統(tǒng)籌個(gè)人信息的合理流通與安全保護(hù)的總體理念，實(shí)施精細(xì)化保護(hù)。對(duì)于個(gè)人信息的處理、流通與利用，要以保護(hù)個(gè)人信息安全為紅線，但是不能以此為由弱化對(duì)公共安全與個(gè)人信息競(jìng)爭(zhēng)價(jià)值的考量。對(duì)此，靜態(tài)的賦權(quán)保護(hù)模式已經(jīng)無法應(yīng)對(duì)個(gè)人信息在人工智能應(yīng)用場(chǎng)景下的流通需求和多樣風(fēng)險(xiǎn)，應(yīng)該采取更為精細(xì)的保護(hù)模式，實(shí)現(xiàn)技術(shù)與法律的融合，采取分場(chǎng)景的動(dòng)態(tài)規(guī)制模式，加強(qiáng)《個(gè)人信息保護(hù)法》及相關(guān)配套規(guī)則與其他法律的銜接，構(gòu)建多部門、多主體協(xié)同共治的格局，在保障個(gè)人信息安全的同時(shí)，科學(xué)引導(dǎo)和規(guī)范個(gè)人信息處理者的行為，促進(jìn)個(gè)人信息的合理流通。

首先，實(shí)現(xiàn)基于風(fēng)險(xiǎn)的分場(chǎng)景的動(dòng)態(tài)規(guī)制。當(dāng)前，個(gè)人信息的收集與處理的場(chǎng)景不斷擴(kuò)展，既包括商業(yè)領(lǐng)域的個(gè)性化推薦、數(shù)據(jù)交易、企業(yè)決策、信用評(píng)估等，也包括公共領(lǐng)域的公共數(shù)據(jù)運(yùn)營(yíng)、安全監(jiān)控、健康服務(wù)、公共管理等。在不同應(yīng)用場(chǎng)景下，個(gè)人信息風(fēng)險(xiǎn)產(chǎn)生的方式、時(shí)間與影響皆具有差異性且無法預(yù)測(cè)，基于靜態(tài)賦權(quán)的規(guī)制方式無法應(yīng)對(duì)多樣的現(xiàn)實(shí)情況。因此，需要通過對(duì)個(gè)人信息保護(hù)規(guī)則進(jìn)行重新解釋，基于不同場(chǎng)景對(duì)個(gè)人信息的處理目的、處理方式、種類以及對(duì)個(gè)人權(quán)益的影響和可能存在的安全風(fēng)險(xiǎn)進(jìn)行評(píng)估，并據(jù)此采取相應(yīng)的措施。例如，允許對(duì)于“告知同意”規(guī)則中的告知事項(xiàng)進(jìn)行風(fēng)險(xiǎn)解釋，告知用戶可能產(chǎn)生的風(fēng)險(xiǎn)類型，由用戶自行判斷是否接受服務(wù)。

其次，在個(gè)人信息保護(hù)中加入對(duì)市場(chǎng)競(jìng)爭(zhēng)的考量。人工智能大模型對(duì)于訓(xùn)練數(shù)據(jù)供給的進(jìn)一步擴(kuò)大，實(shí)質(zhì)上也說明了數(shù)據(jù)要素在市場(chǎng)競(jìng)爭(zhēng)中的顯著價(jià)值，個(gè)人信息也成為了市場(chǎng)競(jìng)爭(zhēng)中取得競(jìng)爭(zhēng)優(yōu)勢(shì)的關(guān)鍵資源，是不可或缺的生產(chǎn)要素。與此同時(shí)，當(dāng)市場(chǎng)競(jìng)爭(zhēng)機(jī)制失靈，用戶形成對(duì)特定經(jīng)營(yíng)者的依賴時(shí)，個(gè)人享有的知情與自主決定權(quán)更加容易受到侵害，作為生產(chǎn)要素的個(gè)人信息不流通也會(huì)損害其他經(jīng)營(yíng)者的競(jìng)爭(zhēng)利益。因此，應(yīng)將個(gè)人信息要素融入市場(chǎng)競(jìng)爭(zhēng)制度當(dāng)中，構(gòu)建體系化的個(gè)人信息保護(hù)制度，促進(jìn)個(gè)人信息的合理有序流通。例如，新修訂的《反壟斷法》規(guī)定：“經(jīng)營(yíng)者不得利用數(shù)據(jù)和算法、技術(shù)、資本優(yōu)勢(shì)以及平臺(tái)規(guī)則等從事本法禁止的壟斷行為”，意味著《反壟斷法》可以對(duì)經(jīng)營(yíng)者濫用市場(chǎng)支配地位侵害個(gè)人信息的壟斷行為進(jìn)行規(guī)制。個(gè)人信息保護(hù)法與競(jìng)爭(zhēng)法在保護(hù)個(gè)人隱私和促進(jìn)市場(chǎng)競(jìng)爭(zhēng)上具有一致性，兩者并行不悖。

最后，形成多部門、多主體治理合力。面對(duì)個(gè)人信息承載的個(gè)人隱私、公共利益與競(jìng)爭(zhēng)價(jià)值多元屬性，不同場(chǎng)景中個(gè)人與信息收集者、處理者之間的關(guān)系不同，個(gè)人信息流通規(guī)則也存在很大差異。因此，需要政府、行業(yè)協(xié)會(huì)、個(gè)人信息處理者與個(gè)人多元主體協(xié)同共治，在多元主體間尋求利益平衡。政府需加強(qiáng)不同部門間的執(zhí)法協(xié)作，避免對(duì)于個(gè)人信息保護(hù)職責(zé)的交叉混同，通過網(wǎng)信部門與司法機(jī)構(gòu)的協(xié)調(diào)與研討，減小個(gè)人信息保護(hù)法律適用的差異；行業(yè)協(xié)會(huì)可以依據(jù)協(xié)會(huì)特點(diǎn)，對(duì)協(xié)會(huì)內(nèi)個(gè)人信息處理者的行為進(jìn)行合規(guī)指導(dǎo)與優(yōu)化；個(gè)人數(shù)據(jù)處理者應(yīng)加強(qiáng)合規(guī)管理，熟知個(gè)人信息處理規(guī)則并能夠依據(jù)所采用技術(shù)的特點(diǎn)進(jìn)行風(fēng)險(xiǎn)評(píng)估與管理；個(gè)人則應(yīng)當(dāng)提高對(duì)個(gè)人信息保護(hù)的重視程度，明確自身授權(quán)個(gè)人信息的使用目的與渠道，不隨意授權(quán)。

（陳兵系南開大學(xué)競(jìng)爭(zhēng)法研究中心主任、法學(xué)院副院長(zhǎng)，數(shù)字經(jīng)濟(jì)交叉科學(xué)中心研究員；董思琰系南開大學(xué)法學(xué)院博士生、競(jìng)爭(zhēng)法研究中心研究助理）