分享到微信打開(kāi)微信,點(diǎn)擊底部的“發(fā)現(xiàn)”, |
第一財(cái)經(jīng) 2023-08-13 22:03:09 聽(tīng)新聞
作者:陳兵 ? 董思琰 責(zé)編:任紹敏
近年來(lái)隨著信息技術(shù)的快速發(fā)展,人臉識(shí)別技術(shù)在越來(lái)越多的場(chǎng)景與領(lǐng)域得到廣泛應(yīng)用,基于人的臉部特征進(jìn)行身份識(shí)別相較于傳統(tǒng)的密碼驗(yàn)證等方式更加快捷、準(zhǔn)確,同時(shí)能夠基于人臉的獨(dú)特性被用于身份的自動(dòng)確認(rèn)與識(shí)別,降低人力成本。
然而,人臉信息作為可識(shí)別自然人的信息,其應(yīng)用涉及個(gè)人信息保護(hù)與數(shù)據(jù)安全問(wèn)題,一方面,人臉識(shí)別技術(shù)能夠用于線(xiàn)上支付、解鎖門(mén)禁、驗(yàn)證門(mén)票等場(chǎng)景,為商業(yè)經(jīng)營(yíng)與社會(huì)管理帶來(lái)便利;另一方面,也會(huì)帶來(lái)個(gè)人敏感信息泄露、人身安全威脅、換臉欺詐等風(fēng)險(xiǎn)。
面對(duì)新興技術(shù)帶來(lái)的社會(huì)風(fēng)險(xiǎn),如何把握發(fā)展與安全的平衡,避免“一刀切”,引導(dǎo)科技向善,是法律不得不面對(duì)的問(wèn)題。8月8日,國(guó)家互聯(lián)網(wǎng)信息辦公室公布了《人臉識(shí)別技術(shù)應(yīng)用安全管理規(guī)定(試行)(征求意見(jiàn)稿)》(下稱(chēng)《征求意見(jiàn)稿》)并向社會(huì)公開(kāi)征求意見(jiàn),回應(yīng)了人臉識(shí)別技術(shù)濫用等問(wèn)題。
縱觀《征求意見(jiàn)稿》全文,規(guī)范人臉識(shí)別技術(shù)應(yīng)用充分遵循了常態(tài)化監(jiān)管的內(nèi)在要求,從以下方面規(guī)范人臉識(shí)別技術(shù)的使用,在更好保障科技紅利所帶來(lái)的便民化和均等化的同時(shí),防止科技濫用,促進(jìn)科技向善。
第一,《征求意見(jiàn)稿》堅(jiān)持發(fā)展與安全并重的總體原則。
近年來(lái),在全球范圍內(nèi)對(duì)人臉識(shí)別技術(shù)的規(guī)制逐漸收緊,歐盟通過(guò)的《人工智能法案》禁止實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù),意味著不能在公共場(chǎng)合實(shí)時(shí)掃描人臉;美國(guó)舊金山、馬薩諸塞州薩默維爾市等多地也已正式通過(guò)了在公共場(chǎng)所禁用人臉識(shí)別軟件的法案。面對(duì)人臉識(shí)別技術(shù)應(yīng)用中出現(xiàn)的風(fēng)險(xiǎn)與挑戰(zhàn),《征求意見(jiàn)稿》第三條規(guī)定不得利用人臉識(shí)別技術(shù)從事危害國(guó)家安全、損害公共利益、擾亂社會(huì)秩序、侵害個(gè)人和組織合法權(quán)益等法律法規(guī)禁止的活動(dòng),體現(xiàn)了以安全為底線(xiàn)的使用和管理原則。
同時(shí),《征求意見(jiàn)稿》除明確上位法《個(gè)人信息保護(hù)法》第二十八條對(duì)包括生物識(shí)別的敏感個(gè)人信息“特定的目的”“充分的必要性”并“采取嚴(yán)格保護(hù)措施”的敏感個(gè)人信息處理規(guī)則,還提出了“實(shí)現(xiàn)相同目的或者達(dá)到同等業(yè)務(wù)要求,應(yīng)當(dāng)優(yōu)先選擇非生物特征識(shí)別技術(shù)方案”,鼓勵(lì)優(yōu)先使用國(guó)家人口基礎(chǔ)信息庫(kù)、國(guó)家網(wǎng)絡(luò)身份認(rèn)證公共服務(wù)等權(quán)威渠道,強(qiáng)調(diào)了人臉識(shí)別技術(shù)只能在必要的情形下使用,一方面是對(duì)我國(guó)人臉識(shí)別技術(shù)應(yīng)用廣泛的現(xiàn)實(shí)情況的回應(yīng),另一方面也為技術(shù)發(fā)展預(yù)留了一定的空間,體現(xiàn)出我國(guó)并未對(duì)人臉識(shí)別技術(shù)進(jìn)行“一刀切”監(jiān)管,注重發(fā)展與安全并重。
第二,在上位法原則性規(guī)定的基礎(chǔ)上對(duì)人臉識(shí)別技術(shù)應(yīng)用構(gòu)建了全流程、全要素、規(guī)范化監(jiān)管規(guī)則。
2021年出臺(tái)的《個(gè)人信息保護(hù)法》第六十二條規(guī)定,國(guó)家網(wǎng)信部門(mén)統(tǒng)籌協(xié)調(diào)有關(guān)部門(mén)依據(jù)本法針對(duì)小型個(gè)人信息處理者、處理敏感個(gè)人信息以及人臉識(shí)別、人工智能等新技術(shù)、新應(yīng)用,制定專(zhuān)門(mén)的個(gè)人信息保護(hù)規(guī)則、標(biāo)準(zhǔn)。
《征求意見(jiàn)稿》是在其上位法制定的個(gè)人信息保護(hù)原則性規(guī)定下,對(duì)人臉識(shí)別設(shè)置更為具體的規(guī)則標(biāo)準(zhǔn)與操作指引?!墩髑笠庖?jiàn)稿》將人臉識(shí)別技術(shù)的使用前提條件,人臉信息采集、處理、刪除規(guī)則,人臉識(shí)別技術(shù)的應(yīng)用評(píng)估與備案,人臉識(shí)別技術(shù)使用者、產(chǎn)品或者服務(wù)提供者的法律責(zé)任與義務(wù)等環(huán)節(jié)將人臉識(shí)別技術(shù)的應(yīng)用全流程與全要素置于規(guī)制范圍內(nèi)。
全流程、全要素、規(guī)范化監(jiān)管有利于最大限度地降低人臉識(shí)別技術(shù)應(yīng)用產(chǎn)生的風(fēng)險(xiǎn),將風(fēng)險(xiǎn)控制在每一環(huán)節(jié)與每一要素的管理中,能夠在一定程度上緩解人臉識(shí)別技術(shù)監(jiān)管的滯后性。譬如《征求意見(jiàn)稿》第十六條提出的針對(duì)人臉識(shí)別技術(shù)的個(gè)人信息保護(hù)影響評(píng)估制度與備案制度,對(duì)人臉識(shí)別技術(shù)使用者提出了更高的合規(guī)要求,通過(guò)設(shè)定高標(biāo)準(zhǔn)的人臉識(shí)別技術(shù)條件,有助于適當(dāng)降低人臉識(shí)別技術(shù)在部分領(lǐng)域的非必要使用,特別是嚴(yán)格人臉識(shí)別技術(shù)在公共場(chǎng)所的使用條件。
同時(shí),由于備案制度的性質(zhì),人臉識(shí)別技術(shù)使用者僅需提供所需材料即可進(jìn)行技術(shù)使用活動(dòng),并不需要經(jīng)過(guò)監(jiān)管機(jī)構(gòu)審批,合規(guī)成本并沒(méi)有過(guò)度提高,有利于保護(hù)企業(yè)合規(guī)與發(fā)展的積極性,達(dá)到更好的監(jiān)管效能,科學(xué)區(qū)別人臉識(shí)別技術(shù)的使用場(chǎng)景和條件。
第三,注重場(chǎng)景化規(guī)制,明確為不同場(chǎng)景下的人臉識(shí)別技術(shù)應(yīng)用設(shè)定不同的義務(wù)內(nèi)容,推動(dòng)規(guī)制措施的精準(zhǔn)化。
《征求意見(jiàn)稿》首先將使用場(chǎng)景區(qū)分類(lèi)為“公共場(chǎng)所”和“組織機(jī)構(gòu)實(shí)施內(nèi)部管理”兩大類(lèi)別,并對(duì)兩大使用場(chǎng)景的安裝圖像采集、個(gè)人身份識(shí)別設(shè)備的行為提出了不同嚴(yán)格程度的要求,體現(xiàn)了根據(jù)不同應(yīng)用場(chǎng)景風(fēng)險(xiǎn)程度大小的精準(zhǔn)規(guī)制,但對(duì)于二者具體的區(qū)分標(biāo)準(zhǔn)尚待進(jìn)一步明確。
針對(duì)當(dāng)前有關(guān)人臉識(shí)別技術(shù)應(yīng)用濫用問(wèn)題,《征求意見(jiàn)稿》第九條也對(duì)技術(shù)應(yīng)用中的具體場(chǎng)景進(jìn)行了分級(jí)規(guī)定:“旅館客房、公共浴室、更衣室、衛(wèi)生間及其他可能侵害他人隱私的場(chǎng)所”不得使用人臉識(shí)別技術(shù);“賓館、銀行、車(chē)站、機(jī)場(chǎng)等經(jīng)營(yíng)場(chǎng)所”則要求在個(gè)人自愿的前提下使用人臉識(shí)別技術(shù);“出入物業(yè)管理區(qū)域”則不得將人臉識(shí)別技術(shù)驗(yàn)證個(gè)人身份作為唯一方式。
然而,雖然《征求意見(jiàn)稿》以分類(lèi)分級(jí)的形式確立了較為精準(zhǔn)的場(chǎng)景化規(guī)制框架,在實(shí)踐中其實(shí)施則具有較大的難度,隨著近年來(lái)人臉識(shí)別技術(shù)的廣泛應(yīng)用,在許多使用場(chǎng)景下都已經(jīng)安裝了采集人臉信息的前端設(shè)備,例如部分社區(qū)門(mén)禁和校園門(mén)禁僅能通過(guò)“刷臉”進(jìn)入,并未從設(shè)備上設(shè)置其他的進(jìn)入方式,“自愿原則”難以實(shí)際踐行,因此,場(chǎng)景化分類(lèi)分級(jí)規(guī)制將對(duì)現(xiàn)有的人臉信息采集設(shè)備提出較大的合規(guī)要求,使用者可能面臨加裝其他設(shè)備或更換設(shè)備的問(wèn)題,增加合規(guī)成本,使得場(chǎng)景化規(guī)制面臨一定的困難。
第四,規(guī)定“人臉識(shí)別技術(shù)使用者”“相關(guān)產(chǎn)品或者服務(wù)提供者”等概念,為具化問(wèn)責(zé)依據(jù)提供了基礎(chǔ),但仍需進(jìn)一步細(xì)化概念的內(nèi)涵與范疇。
《征求意見(jiàn)稿》在條文中較為分散地規(guī)定了“人臉識(shí)別技術(shù)使用者”處理不滿(mǎn)十四周歲未成年人人臉信息的規(guī)則,進(jìn)行事前個(gè)人信息保護(hù)影響評(píng)估、備案、設(shè)備安全性和風(fēng)險(xiǎn)評(píng)估等義務(wù),初步確定了人臉識(shí)別信息保護(hù)違法責(zé)任主體及法律責(zé)任與義務(wù)。但在問(wèn)責(zé)層面,《征求意見(jiàn)稿》仍存在以下不足:首先,對(duì)于何為“人臉識(shí)別技術(shù)使用者”“相關(guān)產(chǎn)品、服務(wù)提供者”等,《征求意見(jiàn)稿》并沒(méi)有作出明確的解釋與界定,容易造成實(shí)踐中適用對(duì)象與范圍的模糊不清;其次,對(duì)于處罰的規(guī)定較為籠統(tǒng),僅提出依照《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等上位法進(jìn)行處罰,并未規(guī)定約談、警告、通報(bào)批評(píng)等措施以及罰款的情況與具體罰款數(shù)額,難以起到威懾作用;最后,《征求意見(jiàn)稿》并未規(guī)定侵權(quán)行為產(chǎn)生后的具體救濟(jì)途徑與渠道,當(dāng)人臉信息被泄露或?yàn)E用時(shí),個(gè)人沒(méi)有明確的救濟(jì)途徑和渠道,一旦發(fā)生較為嚴(yán)重的泄露問(wèn)題,《征求意見(jiàn)稿》也并未提出相應(yīng)的應(yīng)急預(yù)案。
第五,充分關(guān)注個(gè)人重大利益與未成年人等弱勢(shì)群體的利益保護(hù),促進(jìn)科技向善,保障科技紅利均等化享用。
《征求意見(jiàn)稿》第十二條指出,涉及社會(huì)救助、不動(dòng)產(chǎn)處分等個(gè)人重大利益的,不得使用人臉識(shí)別技術(shù)替代人工審核個(gè)人身份,人臉識(shí)別技術(shù)可以作為驗(yàn)證個(gè)人身份的輔助手段。當(dāng)前,有較多與民生領(lǐng)域息息相關(guān)的業(yè)務(wù)都引入了人臉識(shí)別技術(shù),與此同時(shí),也出現(xiàn)了“94歲老人被抬進(jìn)銀行進(jìn)行人臉識(shí)別”“廣西十多名業(yè)主刷臉買(mǎi)房被騙超千萬(wàn)”等極端事件,此類(lèi)事件違背了“增進(jìn)人類(lèi)福祉、尊重生命權(quán)利”的科技倫理,此條規(guī)定則對(duì)此類(lèi)事件做出了回應(yīng),促進(jìn)科技向善,實(shí)現(xiàn)科技紅利均等化。
同時(shí),未成年人的認(rèn)知分辨能力還在形成階段,對(duì)人臉信息等個(gè)人敏感信息的保護(hù)意識(shí)較弱,隨著人工智能技術(shù)的發(fā)展,各類(lèi)采集人臉信息的新應(yīng)用層出不窮,未成年人往往更容易泄露自身的個(gè)人敏感信息,因此《征求意見(jiàn)稿》第十三條規(guī)定使用未滿(mǎn)十四歲的未成年人人臉信息需要其監(jiān)護(hù)人同意,保護(hù)了未成年人利益。
第六,跨部門(mén)對(duì)人臉識(shí)別技術(shù)應(yīng)用進(jìn)行協(xié)同聯(lián)動(dòng)監(jiān)管。
根據(jù)《征求意見(jiàn)稿》第二十一條與二十二條,網(wǎng)信部門(mén)會(huì)同電信主管部門(mén)、公安機(jī)關(guān)、市場(chǎng)監(jiān)管部門(mén)對(duì)人臉識(shí)別技術(shù)使用履行監(jiān)督檢查職責(zé),并接收相關(guān)投訴與舉報(bào)。一方面,人臉識(shí)別技術(shù)作為數(shù)字技術(shù),被廣泛應(yīng)用于身份信息識(shí)別與確認(rèn),并在此基礎(chǔ)上衍生了AI換臉等一系列商業(yè)應(yīng)用,與網(wǎng)信、電信、公安、市場(chǎng)監(jiān)管息息相關(guān);另一方面,人工智能技術(shù)近年迎來(lái)發(fā)展的突破口,其與人臉識(shí)別技術(shù)的結(jié)合給個(gè)人數(shù)據(jù)安全、公共安全甚至國(guó)家安全都帶來(lái)了更大的風(fēng)險(xiǎn),因此《征求意見(jiàn)稿》確立了對(duì)人臉識(shí)別技術(shù)的協(xié)同監(jiān)管機(jī)制,將有利于對(duì)人臉識(shí)別技術(shù)的應(yīng)用進(jìn)行多層次、全方位、全環(huán)節(jié)的監(jiān)管,提高監(jiān)管效能。同時(shí),由于人臉信息屬于個(gè)人敏感信息,各部門(mén)之間如何進(jìn)行安全有效的協(xié)同還需進(jìn)一步細(xì)化。
(陳兵系南開(kāi)大學(xué)競(jìng)爭(zhēng)法研究中心主任、法學(xué)院副院長(zhǎng)、教授,南開(kāi)大學(xué)數(shù)字經(jīng)濟(jì)交叉科學(xué)中心研究員;董思琰系南開(kāi)大學(xué)競(jìng)爭(zhēng)法研究中心研究助理)
謝少鋒指出,將一手抓應(yīng)用,推動(dòng)制造業(yè)的全流程、重點(diǎn)行業(yè)、重點(diǎn)產(chǎn)品的智能升級(jí),加快下一步超級(jí)智能終端的產(chǎn)業(yè)化、商業(yè)化進(jìn)程。
國(guó)產(chǎn)AI大模型“AI孫悟空”亮相大阪世博會(huì);字節(jié)跳動(dòng)正計(jì)劃推出自家的AI智能眼鏡;貝瑞基因GENOisi?智能體正式發(fā)布。
蓮花控股今年以來(lái)終止的算力服務(wù)合同金額達(dá)2.52億元。
OpenAI創(chuàng)始人Sam Altman:將在幾周內(nèi)發(fā)布o(jì)3、o4-MINI;谷歌宣布一個(gè)新的實(shí)驗(yàn)性人工智能模型Sec-Gemini V1。
OpenAI宣布推出AI Agent評(píng)測(cè)基準(zhǔn)PaperBench;新研究稱(chēng)人工智能可提前兩周預(yù)測(cè)嚴(yán)重心律失常風(fēng)險(xiǎn);浙江大學(xué)與阿里云共建人工智能通識(shí)課。