近年來，隨著人們對人工智能（AI）技術(shù)認(rèn)識的提高和應(yīng)用的廣泛推進(jìn)，AI技術(shù)也被不法分子利用，出現(xiàn)多種形式的詐騙活動，數(shù)量和規(guī)模均呈現(xiàn)出快速增長的勢頭。據(jù)不完全統(tǒng)計(jì)，僅在2022年，我國AI詐騙案件就達(dá)到了50萬件，涉及金額超過100億元。與此相應(yīng)，隨著AI技術(shù)的發(fā)展，警方也可以利用AI技術(shù)來提高犯罪預(yù)測和偵查的效率和準(zhǔn)確性。進(jìn)一步，AI可以通過分析大數(shù)據(jù)、視覺圖像分析和識別、自然語言處理和語音識別等技術(shù)手段，發(fā)現(xiàn)隱藏在數(shù)據(jù)背后的模式和規(guī)律，從而提供重要的線索和證據(jù)，協(xié)助警方偵破案件，在司法實(shí)踐中也發(fā)揮著重要的作用。

涉及AI犯罪的種類

AI被用作“惡意”犯罪的工具，目前可以將其分為三類：

一是使用AI的犯罪：指的是使用AI作為實(shí)施傳統(tǒng)犯罪的工具，如盜竊、欺詐或偽造。犯罪分子可以使用AI創(chuàng)建虛假身份，又或是利用人工合成的身份信息進(jìn)行詐騙。例如：在語音通話中利用人工合成的聲音騙取信任實(shí)施詐騙。當(dāng)你的聲音被上傳于互聯(lián)網(wǎng)，則有可能被克隆，用來對你的親友進(jìn)行詐騙。在現(xiàn)代大數(shù)據(jù)時(shí)代，每段出現(xiàn)在互聯(lián)網(wǎng)上的聲音都有可能被用來合成進(jìn)行犯罪行為。

二是針對AI的犯罪：是指對AI系統(tǒng)的完整性或可用性的攻擊。這包括入侵AI系統(tǒng)以竊取數(shù)據(jù)或破壞其運(yùn)作。2022年6月21日，大學(xué)生學(xué)習(xí)軟件“學(xué)習(xí)通”數(shù)據(jù)庫信息被公開售賣，其中泄露的數(shù)據(jù)包含學(xué)校/組織名、姓名、手機(jī)號、學(xué)號/工號、性別、郵箱等信息達(dá)1.7億條。2022年7月初，某市公安數(shù)據(jù)庫遭入侵，黑客在某論壇公開出售中國居民信息和警察案件數(shù)據(jù)，標(biāo)價(jià)10比特幣（合時(shí)價(jià)約美元20萬或人民幣134萬）。這類數(shù)據(jù)泄露的案件對個(gè)人的隱私造成極大的侵犯，同時(shí)也提高了網(wǎng)絡(luò)詐騙的犯罪率。

三是AI本身的犯罪：指的是AI自主系統(tǒng)在沒有人類干預(yù)的情況下實(shí)施犯罪?，F(xiàn)在，這仍然是理論上的猜測。但不可否認(rèn)，自主系統(tǒng)可能被編程并從事犯罪行為，例如使用無人機(jī)進(jìn)行非法監(jiān)視或進(jìn)行網(wǎng)絡(luò)攻擊。許多電影都對“AI毀滅人類”這一議題進(jìn)行了預(yù)演，引發(fā)我們的思考。如《黑客帝國》《異形：契約》，都描述了人類與AI之間可能存在的戰(zhàn)爭。

AI用于反制犯罪

AI犯罪手段通常比傳統(tǒng)手段更高明，更難以識別，從而增加了反犯罪的難度。AI用于刑偵和司法，可以增強(qiáng)反制犯罪的成功率。

1.AI用于刑偵。

通過對犯罪人員以往的數(shù)據(jù)分析和監(jiān)控，警方可以使用機(jī)器學(xué)習(xí)算法分析犯罪數(shù)據(jù)，以識別犯罪模式和趨勢，從而提前預(yù)警和防范犯罪，降低再犯率。如韓國針對有強(qiáng)奸犯罪前科的人員佩戴“電子鐐銬”，既降低了廣設(shè)監(jiān)獄為社會帶來的負(fù)擔(dān)，同時(shí)為罪犯提前社會化打下了基礎(chǔ)，也能夠有效預(yù)防罪犯再次犯罪；在我國各大火車站、高鐵站出站口廣泛應(yīng)用的“人臉識別”技術(shù)，也同樣有助于識別和跟蹤公共場所的有重大犯罪前科的嫌疑人。

同時(shí)，AI還可以通過視覺圖像分析和識別技術(shù)，對視頻監(jiān)控畫面進(jìn)行分析，提取出關(guān)鍵信息，如人物特征、車輛類型、物品特征等，從而輔助犯罪偵查。例如，AI可以基于視頻監(jiān)控畫面，識別出犯罪嫌疑人的面部特征、衣著特征等，與警方數(shù)據(jù)庫中的人臉信息匹配，快速鎖定嫌疑人。AI還可以通過車輛識別技術(shù)，快速識別出犯罪嫌疑車輛，并追蹤車輛行駛軌跡，協(xié)助警方偵破案件。進(jìn)一步，AI可以通過對視頻監(jiān)控畫面的分析，識別出人物的行為特征，如走路姿勢、手勢、面部表情等，從而進(jìn)行行為分析和預(yù)測。例如，AI可以根據(jù)犯罪嫌疑人的走路姿勢和手勢等特征，分析其行為特點(diǎn)，判斷其是否有潛在的犯罪嫌疑，并預(yù)測其可能的犯罪行為。此外，AI還可以通過對監(jiān)控畫面的分析，檢測出異常行為，如人員聚集、車輛擁堵等，快速發(fā)現(xiàn)和預(yù)警可能發(fā)生的異常事件，提高治安管理和應(yīng)急處置的效率。

2. AI用于司法。

AI在司法審判過程中也可以起到多個(gè)方面的作用，如證據(jù)分析、判決輔助、案件調(diào)查等。在證據(jù)分析方面，可以利用自然語言處理技術(shù)對大量文本進(jìn)行分析，幫助律師和法官發(fā)現(xiàn)潛在的證據(jù)和證詞矛盾。在判決輔助方面，基于機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘技術(shù)，可以預(yù)測案件的勝負(fù)和判決結(jié)果，為法官提供輔助判斷依據(jù)。在案件調(diào)查方面，可利用計(jì)算機(jī)視覺技術(shù)和大數(shù)據(jù)分析，快速搜集和整理相關(guān)證據(jù)和信息，幫助警方和律師快速鎖定嫌疑人和證據(jù)。

但在確定AI在司法審判中的角色時(shí)，我們需要認(rèn)識到AI并不能完全代替人類的判斷和決策。尤其是在涉及人的生命和自由等重大利益的案件中，法官需要綜合考慮多種因素，包括事實(shí)、法律和公眾利益等，做出判斷和決策。AI作為一種輔助手段，只能為法官提供更準(zhǔn)確和全面的信息和數(shù)據(jù)分析，最終的決策還需要人類的判斷和權(quán)衡。AI在司法審判中更適合處理具有一定規(guī)律和模式的案件，如知識產(chǎn)權(quán)、合同糾紛等。對于那些復(fù)雜、涉及人的情感和道德判斷的案件場景，如何判決和量刑，AI的應(yīng)用則較困難。同時(shí)，AI應(yīng)用于司法，也可能存在人為偏見和不公平性，因?yàn)闄C(jī)器學(xué)習(xí)算法本身就會受到訓(xùn)練數(shù)據(jù)的偏差和人為主觀性的影響。

3.AI用于監(jiān)管。

除了審判過程，在犯罪人員服刑過程中AI也可以扮演其相應(yīng)的角色，?？略凇侗O(jiān)獄的“替代方案”》中討論了監(jiān)獄的歷史和功能，并提出了一種“替代方案”，即通過社會控制和監(jiān)視來代替監(jiān)獄對罪犯的懲罰和控制。?？抡J(rèn)為，監(jiān)獄的功能已經(jīng)從懲罰轉(zhuǎn)向了控制和糾正，但是監(jiān)獄仍然存在一些問題，如監(jiān)獄暴力、再犯率高等。他提出，通過使用現(xiàn)代技術(shù)手段如電子監(jiān)管和數(shù)據(jù)分析等，可以更加有效地進(jìn)行社會控制和監(jiān)視，從而達(dá)到更好的控制罪犯的目的。這種替代方案的實(shí)現(xiàn)可能涉及一些AI技術(shù)手段，如電子監(jiān)管、數(shù)據(jù)分析和面部識別等。

總之，AI技術(shù)可以用于犯罪預(yù)測和預(yù)防、犯罪偵查、審判、監(jiān)獄管理等各個(gè)環(huán)節(jié)。AI應(yīng)用于現(xiàn)代刑事司法系統(tǒng)是有啟示意義的，它提醒我們應(yīng)該更加關(guān)注罪犯的社會背景和環(huán)境，而不僅僅是犯罪行為本身，同時(shí)也提醒我們應(yīng)該謹(jǐn)慎地使用AI和其他技術(shù)手段來進(jìn)行社會控制和監(jiān)視，以避免出現(xiàn)濫用和不當(dāng)使用的情況。

不論是AI在實(shí)施犯罪行為，在司法審判中發(fā)揮作用或是用于預(yù)防和干預(yù)犯罪的過程中，對于AI實(shí)體的權(quán)責(zé)界定和對其能力的約束都十分重要。同時(shí)，在人類借助AI進(jìn)行創(chuàng)造性或重復(fù)性工作時(shí)，有信譽(yù)且有能力的第三方對其行為的約束，都對可能存在的數(shù)據(jù)和技術(shù)濫用起到關(guān)鍵性的預(yù)防作用。在AI時(shí)代，犯罪和反制之間的競爭不再是簡單的人力競爭，而需要利用技術(shù)手段。AI技術(shù)也可能被犯罪分子利用，從而加劇了犯罪的威脅。AI技術(shù)也可以幫助警方提高犯罪預(yù)測和偵查的準(zhǔn)確性和效率，從而有效地防范和打擊犯罪。因此，我們需要不斷地加強(qiáng)對AI技術(shù)的研究和應(yīng)用，提高其在犯罪反制方面的效果和質(zhì)量，從而更好地維護(hù)社會的安全和穩(wěn)定。

（李磊系南開大學(xué)經(jīng)濟(jì)學(xué)院、經(jīng)濟(jì)行為與政策模擬實(shí)驗(yàn)室教授，李陽系南開大學(xué)經(jīng)濟(jì)學(xué)院研究生。本文是國家社科基金重大項(xiàng)目“全球產(chǎn)業(yè)智能化對我國供應(yīng)鏈安全的影響及對策研究”的階段性成果）