人工智能（AI）的快速發(fā)展正在眾多行業(yè)領(lǐng)域掀起一場(chǎng)顛覆性的技術(shù)與模式革新。

一方面，AI技術(shù)的應(yīng)用展現(xiàn)了巨大的商業(yè)價(jià)值，在降低成本、提升效率、加速創(chuàng)新等方面發(fā)揮了關(guān)鍵作用。另一方面，人們面臨的科技倫理挑戰(zhàn)也日益嚴(yán)峻。例如，AI及算法應(yīng)用對(duì)就業(yè)市場(chǎng)造成了沖擊，“外賣(mài)騎手被困在系統(tǒng)里”等現(xiàn)象，都是AI推廣過(guò)程中客觀存在且不容忽視的現(xiàn)實(shí)。長(zhǎng)期來(lái)看，可能會(huì)引發(fā)更多非效率性的社會(huì)問(wèn)題，逐漸惡化社會(huì)對(duì)人工智能的接受度和容忍度，阻礙友好型人工智能社會(huì)的建設(shè)。

AI作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，是推動(dòng)我國(guó)生產(chǎn)力整體躍升的重要戰(zhàn)略資源。我們需要制定有針對(duì)性的政策措施，加快構(gòu)建適應(yīng)AI產(chǎn)業(yè)發(fā)展的制度環(huán)境。對(duì)于AI帶來(lái)的發(fā)展機(jī)遇及其伴隨的科技倫理治理挑戰(zhàn)，我們應(yīng)給予辯證的理解，急需重新審視科學(xué)技術(shù)的倫理底線與合法性邊界。

明確AI規(guī)制目標(biāo)與重點(diǎn)

AI技術(shù)的發(fā)展邏輯顛覆了傳統(tǒng)的社會(huì)治理模式，全新的治理模式期待全新的規(guī)制和監(jiān)管路徑。當(dāng)前的規(guī)制目標(biāo)在于實(shí)現(xiàn)以規(guī)制促發(fā)展，堅(jiān)持安全可信的法治之維、科技向善的倫理之維、創(chuàng)新發(fā)展的技術(shù)之維，圍繞“社會(huì)—人類(lèi)—機(jī)器”等要素，從“法律—倫理—技術(shù)”等維度展開(kāi)規(guī)制，在法治軌道上鼓勵(lì)技術(shù)創(chuàng)新。

首先，從法治維度出發(fā)，應(yīng)建立負(fù)責(zé)任的AI治理機(jī)制，建立AI安全可信的標(biāo)準(zhǔn)和評(píng)價(jià)體系，筑牢安全底線，促進(jìn)AI健康發(fā)展。應(yīng)對(duì)AI應(yīng)用的安全性、可信性、倫理合規(guī)性等方面進(jìn)行量化評(píng)估，為AI技術(shù)的發(fā)展提供明確的方向和參考。為進(jìn)一步推進(jìn)AI治理法治化，應(yīng)樹(shù)立完善的技術(shù)發(fā)展與應(yīng)用理念，保證AI應(yīng)用在面對(duì)攻擊和威脅時(shí)能夠保持正常運(yùn)行和數(shù)據(jù)安全，加快推動(dòng)完善針對(duì)AI的法律地位、AI成果權(quán)利歸屬、AI損害后果的責(zé)任劃分、AI風(fēng)險(xiǎn)的法律控制等重點(diǎn)問(wèn)題的法律規(guī)范，著力平衡AI產(chǎn)業(yè)發(fā)展和社會(huì)安全，保證AI輸出結(jié)果是可預(yù)測(cè)的、可解釋的，并且符合人類(lèi)的價(jià)值觀和倫理準(zhǔn)則，防止技術(shù)在利益的裹挾下無(wú)序應(yīng)用，以法治保障AI健康發(fā)展。

其次，從科技倫理維度出發(fā)，應(yīng)建立一整套相對(duì)完整的制度規(guī)范體系，這一體系應(yīng)基于增進(jìn)人類(lèi)福祉、促進(jìn)公平公正、保護(hù)隱私安全、確?？煽乜尚?、強(qiáng)化責(zé)任擔(dān)當(dāng)以及提升倫理素養(yǎng)這六項(xiàng)基本倫理要求，推動(dòng)AI朝著通用、可信、負(fù)責(zé)任的方向發(fā)展。一方面，應(yīng)為AI產(chǎn)品研發(fā)設(shè)計(jì)人員制定道德規(guī)范和行為守則；另一方面，應(yīng)構(gòu)建多層次的倫理道德判斷結(jié)構(gòu)以及人機(jī)協(xié)作的倫理框架。

最后，從技術(shù)維度出發(fā)，應(yīng)在確保AI安全可信、科技向善、符合倫理的前提下，積極鼓勵(lì)A(yù)I技術(shù)的融合與創(chuàng)新，不斷拓展其應(yīng)用場(chǎng)景，并努力嘗試跨學(xué)科交叉融合，以推動(dòng)AI應(yīng)用的可持續(xù)發(fā)展。具體而言，AI技術(shù)應(yīng)進(jìn)一步與物聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)等深度融合，構(gòu)建更加智能、高效、便捷的服務(wù)體系。同時(shí)，還應(yīng)不斷拓展AI在智能家居、自動(dòng)駕駛、醫(yī)療診斷、金融分析等多個(gè)領(lǐng)域的應(yīng)用，加強(qiáng)跨學(xué)科交叉融合。例如，在醫(yī)療診斷領(lǐng)域，AI技術(shù)可以輔助醫(yī)生進(jìn)行疾病診斷、制定治療方案；在金融分析領(lǐng)域，AI技術(shù)可以實(shí)現(xiàn)風(fēng)險(xiǎn)評(píng)估、優(yōu)化投資策略等功能。

完善AI相關(guān)制度設(shè)計(jì)與實(shí)踐進(jìn)路

科技法治是鼓勵(lì)與規(guī)范科技創(chuàng)新的基石，而科技倫理則致力于優(yōu)化和改善科技創(chuàng)新。無(wú)論是科技倫理還是科技法治，都旨在推動(dòng)科技創(chuàng)新的同時(shí)，遏制科技不端行為和科技濫用違法現(xiàn)象。為此，應(yīng)完善相關(guān)法律制度的設(shè)計(jì)與實(shí)踐路徑，加強(qiáng)行業(yè)監(jiān)管，明確行為底線，多方協(xié)作，對(duì)AI應(yīng)用中的不法行為進(jìn)行有效監(jiān)管，確保AI技術(shù)的健康與可持續(xù)發(fā)展。

首先，加強(qiáng)數(shù)據(jù)保護(hù)與隱私立法。應(yīng)完善數(shù)據(jù)相關(guān)法律法規(guī)，明確數(shù)據(jù)收集、存儲(chǔ)、處理和共享的規(guī)范，為AI技術(shù)開(kāi)發(fā)與應(yīng)用中的數(shù)據(jù)相關(guān)行為提供法律指引。《生成式人工智能服務(wù)管理暫行辦法》對(duì)數(shù)據(jù)安全和隱私保護(hù)作出了具體規(guī)定，包括服務(wù)提供者需確保數(shù)據(jù)來(lái)源的合法性，以及關(guān)于訓(xùn)練數(shù)據(jù)的特性、個(gè)人信息與知識(shí)產(chǎn)權(quán)的保護(hù)規(guī)定。該辦法還將相關(guān)監(jiān)督檢查和法律責(zé)任納入我國(guó)網(wǎng)絡(luò)安全和數(shù)據(jù)隱私保護(hù)的基礎(chǔ)性法律框架內(nèi)。在不斷完善法律規(guī)范的同時(shí)，還應(yīng)加大監(jiān)管執(zhí)法力度，嚴(yán)厲打擊侵犯?jìng)€(gè)人隱私的行為，確保法律的有效實(shí)施。此外，應(yīng)加強(qiáng)在數(shù)據(jù)保護(hù)和隱私立法方面的國(guó)際合作，消除數(shù)據(jù)跨境傳輸過(guò)程中存在的數(shù)據(jù)泄露和隱私侵犯的隱患，共同維護(hù)全球數(shù)據(jù)安全和隱私權(quán)益。

其次，優(yōu)化算法設(shè)計(jì)與公平性審查。算法是AI發(fā)展的核心技術(shù)工具，只有合規(guī)、良善的算法才能更好地促進(jìn)AI的安全、可信、負(fù)責(zé)任發(fā)展。

第一，優(yōu)化法律體系配置，重點(diǎn)關(guān)注算法偏見(jiàn)問(wèn)題，并加強(qiáng)法律法規(guī)間的協(xié)同，構(gòu)建全方位、多層次、立體化的算法偏見(jiàn)規(guī)制體系，涵蓋法律、行政規(guī)章及地方性法規(guī)，為個(gè)人提供充分的數(shù)據(jù)權(quán)利保障，為抵御算法偏見(jiàn)侵害提供堅(jiān)實(shí)法律支撐。

第二，實(shí)施算法分類(lèi)分級(jí)管理，細(xì)化《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中的分類(lèi)標(biāo)準(zhǔn)，并制定相應(yīng)的風(fēng)險(xiǎn)等級(jí)和監(jiān)管舉措，完善基于算法分類(lèi)分級(jí)的算法備案、算法評(píng)估、算法安全風(fēng)險(xiǎn)監(jiān)測(cè)和算法審計(jì)制度，提升制度的明確性和可操作性。

第三，探索建立算法偏見(jiàn)公益訴訟制度，結(jié)合民事與行政公益訴訟，完善救濟(jì)途徑，保障公共利益，引導(dǎo)算法在法治框架內(nèi)有序發(fā)展，推動(dòng)數(shù)字化進(jìn)程更加成熟完善。

再次，提高AI決策的透明度與可解釋性。透明度是AI確保其內(nèi)部算法可見(jiàn)性的關(guān)鍵屬性，包括公開(kāi)數(shù)據(jù)、特征、模型、算法、訓(xùn)練方法和質(zhì)量保證程序，以便外部監(jiān)督和審查。可解釋性的目標(biāo)是增強(qiáng)理解，使目標(biāo)受眾更好地理解AI的行動(dòng)與決策。應(yīng)建立公開(kāi)透明、可解釋的AI監(jiān)管體系。

第一，提升AI模型技術(shù)和數(shù)據(jù)源的透明度，公開(kāi)AI在系統(tǒng)開(kāi)發(fā)、數(shù)據(jù)收集、管理、結(jié)果可操作化等過(guò)程的信息，使用戶(hù)了解AI模型決策的過(guò)程、依據(jù)和規(guī)則，打破黑箱壁壘，增強(qiáng)用戶(hù)對(duì)模型的信任。

第二，強(qiáng)化公眾審查和監(jiān)督，落實(shí)算法備案、算法審計(jì)等制度，協(xié)助用戶(hù)追溯數(shù)據(jù)輸入、輸出、運(yùn)行過(guò)程與自動(dòng)化決策結(jié)果間的因果關(guān)系，全面審視數(shù)據(jù)收集方法、自我審核流程、價(jià)值承諾及利益相關(guān)者參與等過(guò)程。當(dāng)利益相關(guān)者的權(quán)益可能因自動(dòng)化決策受損時(shí)，可解釋性能及時(shí)解答疑問(wèn)，提供救濟(jì)。

第三，完善AI備案制度，優(yōu)化互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)，拓展備案信息范圍，要求備案主體公開(kāi)更多技術(shù)要素，如運(yùn)作原理、系統(tǒng)架構(gòu)、數(shù)據(jù)集、訓(xùn)練模型及參數(shù)等，并闡述其價(jià)值觀和要解決的技術(shù)問(wèn)題。同時(shí)，也要將相關(guān)外國(guó)主體納入備案范疇，確保其遵守我國(guó)相關(guān)規(guī)定。

最后，明確責(zé)任主體與加大監(jiān)管力度。雖然AI應(yīng)用帶來(lái)了傳統(tǒng)“主體—行為—責(zé)任”理論下的“責(zé)任鴻溝”問(wèn)題，但AI算法技術(shù)的應(yīng)用，如算法的設(shè)計(jì)與部署，都蘊(yùn)含了價(jià)值觀和主觀意圖，這是法律追責(zé)的核心，也是判定法律責(zé)任的關(guān)鍵。因此，應(yīng)尊重技術(shù)邏輯，構(gòu)建機(jī)器/人—機(jī)聯(lián)合體，并根據(jù)侵權(quán)場(chǎng)景的類(lèi)型化，確立多方責(zé)任主體的識(shí)別路徑，聚焦行為正當(dāng)性的判斷。以AI算法設(shè)計(jì)部署中的主觀過(guò)錯(cuò)作為追責(zé)的基礎(chǔ)，結(jié)合聯(lián)合體內(nèi)的責(zé)任與經(jīng)濟(jì)利益的關(guān)聯(lián)，實(shí)現(xiàn)責(zé)任分配的公正性。

此外，還需增強(qiáng)《中華人民共和國(guó)民法典》《中華人民共和國(guó)刑法》等法律在AI應(yīng)用場(chǎng)景中對(duì)主體責(zé)任和產(chǎn)品質(zhì)量缺陷等問(wèn)題的適用性，強(qiáng)化對(duì)AI設(shè)計(jì)和應(yīng)用監(jiān)督的雙重監(jiān)管。在責(zé)任判定中，應(yīng)綜合考慮行為人和AI服務(wù)提供商在侵權(quán)行為及損害后果中的實(shí)際作用。如果發(fā)生損害，可參考《中華人民共和國(guó)民法典》中的產(chǎn)品生產(chǎn)者責(zé)任條款，即產(chǎn)品缺陷造成他人損害的，生產(chǎn)者應(yīng)承擔(dān)侵權(quán)責(zé)任，被侵權(quán)人有權(quán)向產(chǎn)品提供者索賠。這要求AI提供者，通常是平臺(tái)主體，履行高度注意義務(wù)。賦予AI提供者相應(yīng)責(zé)任義務(wù)，有助于規(guī)范生成內(nèi)容的合法性。當(dāng)然，若平臺(tái)已履行其義務(wù)，鑒于其對(duì)創(chuàng)新發(fā)展的貢獻(xiàn)，在責(zé)任承擔(dān)上不宜過(guò)于嚴(yán)苛，以免阻礙AI技術(shù)發(fā)展和未來(lái)商業(yè)應(yīng)用。

（陳兵系南開(kāi)大學(xué)競(jìng)爭(zhēng)法研究中心主任、法學(xué)院副院長(zhǎng)，數(shù)字經(jīng)濟(jì)交叉科學(xué)中心研究員；傅小鷗系南開(kāi)大學(xué)競(jìng)爭(zhēng)法研究中心研究助理）