近年來，隨著人們對人工智能（AI）技術(shù)認識的提高和應用的廣泛推進，AI技術(shù)也被不法分子利用，出現(xiàn)多種形式的詐騙活動，數(shù)量和規(guī)模均呈現(xiàn)出快速增長的勢頭。據(jù)不完全統(tǒng)計，僅在2022年，我國AI詐騙案件就達到了50萬件，涉及金額超過100億元。與此相應，隨著AI技術(shù)的發(fā)展，警方也可以利用AI技術(shù)來提高犯罪預測和偵查的效率和準確性。進一步，AI可以通過分析大數(shù)據(jù)、視覺圖像分析和識別、自然語言處理和語音識別等技術(shù)手段，發(fā)現(xiàn)隱藏在數(shù)據(jù)背后的模式和規(guī)律，從而提供重要的線索和證據(jù)，協(xié)助警方偵破案件，在司法實踐中也發(fā)揮著重要的作用。

涉及AI犯罪的種類

AI被用作“惡意”犯罪的工具，目前可以將其分為三類：

一是使用AI的犯罪：指的是使用AI作為實施傳統(tǒng)犯罪的工具，如盜竊、欺詐或偽造。犯罪分子可以使用AI創(chuàng)建虛假身份，又或是利用人工合成的身份信息進行詐騙。例如：在語音通話中利用人工合成的聲音騙取信任實施詐騙。當你的聲音被上傳于互聯(lián)網(wǎng)，則有可能被克隆，用來對你的親友進行詐騙。在現(xiàn)代大數(shù)據(jù)時代，每段出現(xiàn)在互聯(lián)網(wǎng)上的聲音都有可能被用來合成進行犯罪行為。

二是針對AI的犯罪：是指對AI系統(tǒng)的完整性或可用性的攻擊。這包括入侵AI系統(tǒng)以竊取數(shù)據(jù)或破壞其運作。2022年6月21日，大學生學習軟件“學習通”數(shù)據(jù)庫信息被公開售賣，其中泄露的數(shù)據(jù)包含學校/組織名、姓名、手機號、學號/工號、性別、郵箱等信息達1.7億條。2022年7月初，某市公安數(shù)據(jù)庫遭入侵，黑客在某論壇公開出售中國居民信息和警察案件數(shù)據(jù)，標價10比特幣（合時價約美元20萬或人民幣134萬）。這類數(shù)據(jù)泄露的案件對個人的隱私造成極大的侵犯，同時也提高了網(wǎng)絡詐騙的犯罪率。

三是AI本身的犯罪：指的是AI自主系統(tǒng)在沒有人類干預的情況下實施犯罪。現(xiàn)在，這仍然是理論上的猜測。但不可否認，自主系統(tǒng)可能被編程并從事犯罪行為，例如使用無人機進行非法監(jiān)視或進行網(wǎng)絡攻擊。許多電影都對“AI毀滅人類”這一議題進行了預演，引發(fā)我們的思考。如《黑客帝國》《異形：契約》，都描述了人類與AI之間可能存在的戰(zhàn)爭。

AI用于反制犯罪

AI犯罪手段通常比傳統(tǒng)手段更高明，更難以識別，從而增加了反犯罪的難度。AI用于刑偵和司法，可以增強反制犯罪的成功率。

1.AI用于刑偵。

通過對犯罪人員以往的數(shù)據(jù)分析和監(jiān)控，警方可以使用機器學習算法分析犯罪數(shù)據(jù)，以識別犯罪模式和趨勢，從而提前預警和防范犯罪，降低再犯率。如韓國針對有強奸犯罪前科的人員佩戴“電子鐐銬”，既降低了廣設監(jiān)獄為社會帶來的負擔，同時為罪犯提前社會化打下了基礎(chǔ)，也能夠有效預防罪犯再次犯罪；在我國各大火車站、高鐵站出站口廣泛應用的“人臉識別”技術(shù)，也同樣有助于識別和跟蹤公共場所的有重大犯罪前科的嫌疑人。

同時，AI還可以通過視覺圖像分析和識別技術(shù)，對視頻監(jiān)控畫面進行分析，提取出關(guān)鍵信息，如人物特征、車輛類型、物品特征等，從而輔助犯罪偵查。例如，AI可以基于視頻監(jiān)控畫面，識別出犯罪嫌疑人的面部特征、衣著特征等，與警方數(shù)據(jù)庫中的人臉信息匹配，快速鎖定嫌疑人。AI還可以通過車輛識別技術(shù)，快速識別出犯罪嫌疑車輛，并追蹤車輛行駛軌跡，協(xié)助警方偵破案件。進一步，AI可以通過對視頻監(jiān)控畫面的分析，識別出人物的行為特征，如走路姿勢、手勢、面部表情等，從而進行行為分析和預測。例如，AI可以根據(jù)犯罪嫌疑人的走路姿勢和手勢等特征，分析其行為特點，判斷其是否有潛在的犯罪嫌疑，并預測其可能的犯罪行為。此外，AI還可以通過對監(jiān)控畫面的分析，檢測出異常行為，如人員聚集、車輛擁堵等，快速發(fā)現(xiàn)和預警可能發(fā)生的異常事件，提高治安管理和應急處置的效率。

2. AI用于司法。

AI在司法審判過程中也可以起到多個方面的作用，如證據(jù)分析、判決輔助、案件調(diào)查等。在證據(jù)分析方面，可以利用自然語言處理技術(shù)對大量文本進行分析，幫助律師和法官發(fā)現(xiàn)潛在的證據(jù)和證詞矛盾。在判決輔助方面，基于機器學習和數(shù)據(jù)挖掘技術(shù)，可以預測案件的勝負和判決結(jié)果，為法官提供輔助判斷依據(jù)。在案件調(diào)查方面，可利用計算機視覺技術(shù)和大數(shù)據(jù)分析，快速搜集和整理相關(guān)證據(jù)和信息，幫助警方和律師快速鎖定嫌疑人和證據(jù)。

但在確定AI在司法審判中的角色時，我們需要認識到AI并不能完全代替人類的判斷和決策。尤其是在涉及人的生命和自由等重大利益的案件中，法官需要綜合考慮多種因素，包括事實、法律和公眾利益等，做出判斷和決策。AI作為一種輔助手段，只能為法官提供更準確和全面的信息和數(shù)據(jù)分析，最終的決策還需要人類的判斷和權(quán)衡。AI在司法審判中更適合處理具有一定規(guī)律和模式的案件，如知識產(chǎn)權(quán)、合同糾紛等。對于那些復雜、涉及人的情感和道德判斷的案件場景，如何判決和量刑，AI的應用則較困難。同時，AI應用于司法，也可能存在人為偏見和不公平性，因為機器學習算法本身就會受到訓練數(shù)據(jù)的偏差和人為主觀性的影響。

3.AI用于監(jiān)管。

除了審判過程，在犯罪人員服刑過程中AI也可以扮演其相應的角色，福柯在《監(jiān)獄的“替代方案”》中討論了監(jiān)獄的歷史和功能，并提出了一種“替代方案”，即通過社會控制和監(jiān)視來代替監(jiān)獄對罪犯的懲罰和控制。?？抡J為，監(jiān)獄的功能已經(jīng)從懲罰轉(zhuǎn)向了控制和糾正，但是監(jiān)獄仍然存在一些問題，如監(jiān)獄暴力、再犯率高等。他提出，通過使用現(xiàn)代技術(shù)手段如電子監(jiān)管和數(shù)據(jù)分析等，可以更加有效地進行社會控制和監(jiān)視，從而達到更好的控制罪犯的目的。這種替代方案的實現(xiàn)可能涉及一些AI技術(shù)手段，如電子監(jiān)管、數(shù)據(jù)分析和面部識別等。

總之，AI技術(shù)可以用于犯罪預測和預防、犯罪偵查、審判、監(jiān)獄管理等各個環(huán)節(jié)。AI應用于現(xiàn)代刑事司法系統(tǒng)是有啟示意義的，它提醒我們應該更加關(guān)注罪犯的社會背景和環(huán)境，而不僅僅是犯罪行為本身，同時也提醒我們應該謹慎地使用AI和其他技術(shù)手段來進行社會控制和監(jiān)視，以避免出現(xiàn)濫用和不當使用的情況。

不論是AI在實施犯罪行為，在司法審判中發(fā)揮作用或是用于預防和干預犯罪的過程中，對于AI實體的權(quán)責界定和對其能力的約束都十分重要。同時，在人類借助AI進行創(chuàng)造性或重復性工作時，有信譽且有能力的第三方對其行為的約束，都對可能存在的數(shù)據(jù)和技術(shù)濫用起到關(guān)鍵性的預防作用。在AI時代，犯罪和反制之間的競爭不再是簡單的人力競爭，而需要利用技術(shù)手段。AI技術(shù)也可能被犯罪分子利用，從而加劇了犯罪的威脅。AI技術(shù)也可以幫助警方提高犯罪預測和偵查的準確性和效率，從而有效地防范和打擊犯罪。因此，我們需要不斷地加強對AI技術(shù)的研究和應用，提高其在犯罪反制方面的效果和質(zhì)量，從而更好地維護社會的安全和穩(wěn)定。

（李磊系南開大學經(jīng)濟學院、經(jīng)濟行為與政策模擬實驗室教授，李陽系南開大學經(jīng)濟學院研究生。本文是國家社科基金重大項目“全球產(chǎn)業(yè)智能化對我國供應鏈安全的影響及對策研究”的階段性成果）