伴隨AI智能體“接管”手機(jī)屏幕，數(shù)據(jù)安全和隱私保護(hù)問(wèn)題正變得更加復(fù)雜。尤其是當(dāng)將AI“裝入”手機(jī)的兩張“技術(shù)地圖”——端側(cè)AI與云側(cè)AI時(shí)，還涉及第三方大模型，手機(jī)終端廠商、大模型提供者和開發(fā)者等不同商業(yè)主體間的生態(tài)模式及責(zé)任邊界尚不清晰。

另有專家提出更深一層擔(dān)憂：在AI手機(jī)時(shí)代，手機(jī)廠商和App開發(fā)者將為用戶權(quán)限展開激烈爭(zhēng)奪，原有的市場(chǎng)競(jìng)爭(zhēng)格局將被重塑，當(dāng)市場(chǎng)競(jìng)爭(zhēng)由傳統(tǒng)的以App主導(dǎo)變?yōu)橐远藗?cè)大模型主導(dǎo)，可能觸及現(xiàn)有《反壟斷法》和《反不正當(dāng)競(jìng)爭(zhēng)法》未曾涉及的問(wèn)題。此外，面對(duì)越來(lái)越了解自身需求的手機(jī)智能體，用戶難免會(huì)產(chǎn)生智能體“自動(dòng)化決策”的擔(dān)憂。

越聰明，越開放，越危險(xiǎn)

和任何一種基于大模型的創(chuàng)新應(yīng)用一樣，AI手機(jī)功能的實(shí)現(xiàn)，往往建立在“吞下”大量的個(gè)人數(shù)據(jù)的基礎(chǔ)上。尤其是訓(xùn)練AI智能體時(shí)，需要不斷地收集、處理和分析用戶的各種信息、瀏覽習(xí)慣乃至生物特征數(shù)據(jù)，以訓(xùn)練自動(dòng)化推理能力，實(shí)現(xiàn)自動(dòng)化決策。

“所以，隱私保護(hù)是一切商業(yè)故事的起點(diǎn)。”近日，在一場(chǎng)以 “AI手機(jī)隱私危機(jī)：新秩序中的安全挑戰(zhàn)與抉擇”為主題的學(xué)術(shù)研討會(huì)上，有業(yè)界人士提出。

目前AI手機(jī)主要基于三種開發(fā)路徑：基于端側(cè)AI大模型，自研AI的端云配合以及第三方AI參與的端云配合。

也因此，AI手機(jī)生態(tài)囊括了手機(jī)終端、第三方大模型、APP以及云服務(wù)等參與主體。不同于傳統(tǒng)手機(jī)以App為抓手的隱私保護(hù)策略，AI手機(jī)各主體間的數(shù)據(jù)安全責(zé)權(quán)關(guān)系將更加復(fù)雜，要想達(dá)成令用戶信服的數(shù)據(jù)安全解決方案，挑戰(zhàn)也更大。

中國(guó)法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)常務(wù)副秘書長(zhǎng)周輝在前述研討會(huì)上提到，相較于云側(cè)AI，端側(cè)AI能夠?qū)崿F(xiàn)數(shù)據(jù)本地處理，本地模型個(gè)性化訓(xùn)練與優(yōu)化，理論上能夠最大限度地減少數(shù)據(jù)傳輸，避免用戶敏感信息被上傳至云端。如果管理到位，這是一種“更私密”的解決方案。此外，由于端側(cè)AI設(shè)備相對(duì)獨(dú)立，算法更新和優(yōu)化在本地完成，用戶更易察覺和監(jiān)督。

但端側(cè)大模型真的能實(shí)現(xiàn)“AI鎖在手機(jī)硬件里”，讓用戶數(shù)據(jù)和隱私變得更安全嗎？

一種業(yè)界觀點(diǎn)認(rèn)為，由于大模型各方、用戶與端、端與應(yīng)用、端與云等風(fēng)險(xiǎn)責(zé)任有待清晰界定，目前法律制度尚待健全。

尚隱科技有限公司CEO張仁卓表示，純端側(cè)的模式能完全在本地處理用戶的數(shù)據(jù)，其安全性比較可控。但其風(fēng)險(xiǎn)是，在第三方App介入時(shí)，隱私保護(hù)的邊界往往模糊不清，也容易引發(fā)數(shù)據(jù)濫用或過(guò)度采集的問(wèn)題。

北京漢華飛天信安科技有限公司總經(jīng)理彭根從事手機(jī)端側(cè)研究多年，他稱，AI手機(jī)誕生后，原本為了幫殘障人士“打破障礙”的無(wú)障礙權(quán)限正變成AI手機(jī)里的“上帝模式”，能夠打破各個(gè)App之間的沙箱隔離機(jī)制，具有極高的權(quán)限。“便利的同時(shí)也孕育了更大的危機(jī)。”彭根說(shuō)，在無(wú)障礙模式下，AI手機(jī)的隱蔽式調(diào)用可能反而造成安全和隱私風(fēng)險(xiǎn)，乃至被不法分子使用，作為竊取用戶信息的工具。

另一個(gè)不可否認(rèn)的事實(shí)是，端側(cè)AI計(jì)算能力不如云端。有調(diào)研顯示，盡管手機(jī)廠商都宣稱自己的端側(cè)AI大模型能力，但AI手機(jī)全部功能的實(shí)現(xiàn)，仍將依賴云側(cè)大模型。

“為了實(shí)現(xiàn)高算力、強(qiáng)算法等能力，目前AI手機(jī)的主流模式依然是端云配合，即將數(shù)據(jù)處理分散到本地與云端。”張仁卓說(shuō)。他以蘋果手機(jī)舉例稱，蘋果努力采用本地AI處理數(shù)據(jù)，但也與其私有云計(jì)算（Private Cloud Compute, PCC）緊密配合。

而當(dāng)用戶數(shù)據(jù)隨模型遷移至云端，如何強(qiáng)化云端數(shù)據(jù)的安全，使之與端側(cè)保持一致，并防止數(shù)據(jù)被濫用，就成為了數(shù)據(jù)安全和隱私保護(hù)領(lǐng)域的新挑戰(zhàn)。

此外，AI手機(jī)數(shù)據(jù)交互邊界的不斷擴(kuò)大，同樣存在“硬幣的正反面”。

自誕生以來(lái)，AI手機(jī)的終端廠商就對(duì)第三方大模型報(bào)以開放合作態(tài)度。比如，榮耀、三星與百度的合作，小米接入豆包大模型，再如近一段時(shí)間以來(lái)，華為、榮耀、OPPO等一眾國(guó)產(chǎn)手機(jī)廠商相繼官宣接入DeepSeek-R1。

“即便是蘋果這樣的科技巨頭，涉及第三方AI的時(shí)候，PCC的保護(hù)程度也稍顯捉襟見肘，僅能保證數(shù)據(jù)的預(yù)處理安全。雖然手機(jī)廠商們大多會(huì)宣稱保護(hù)用戶數(shù)據(jù)，但這些聲明往往缺乏具體細(xì)節(jié)，潛藏著諸多不確定性與隱患。國(guó)內(nèi)廠商數(shù)據(jù)保護(hù)舉措的透明度亦不充分。”張仁卓說(shuō)。

在他看來(lái)，第三方AI大模型通常需要訪問(wèn)大量用戶數(shù)據(jù)，這進(jìn)一步增加了數(shù)據(jù)泄露的可能性；數(shù)據(jù)在端側(cè)、云端和第三方AI之間的流動(dòng)復(fù)雜，透明度較低，責(zé)任分配也不明確，出現(xiàn)問(wèn)題后恐怕難以追責(zé)。

“技術(shù)的監(jiān)管永遠(yuǎn)優(yōu)先于法律的監(jiān)管”

中國(guó)信通院互聯(lián)網(wǎng)法律研究中心主任何波表示，人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，相關(guān)產(chǎn)業(yè)正在向多智能融合新階段發(fā)展。從目前情況來(lái)看，AI手機(jī)的發(fā)展不是完全裸奔的。

首先，現(xiàn)有的法律法規(guī)都適用并需要遵守。何波舉例說(shuō)，《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》明確規(guī)定了處理個(gè)人信息的要求，包括知情同意規(guī)則、最小必要原則等；今年1月1日生效的《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》進(jìn)一步對(duì)涉及自動(dòng)化工具、生成式人工智能等新興技術(shù)的數(shù)據(jù)處理活動(dòng)作出了特殊規(guī)定，這些都可以作為AI手機(jī)的監(jiān)管依據(jù)。

對(duì)外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任許可同樣認(rèn)為，在既有法律規(guī)制的框架之內(nèi)，對(duì)AI手機(jī)的監(jiān)管實(shí)際已非常多了。“盡管在某種程度上，中國(guó)互聯(lián)網(wǎng)發(fā)展的歷史就是不斷打破既有法律甚至在無(wú)法狀態(tài)中進(jìn)行的歷史，但過(guò)去十年間，尤其是在過(guò)去五六年間，中國(guó)互聯(lián)網(wǎng)法律體系已經(jīng)相當(dāng)全面了，基本覆蓋到每個(gè)領(lǐng)域。”許可說(shuō)。

此外，何波還提到，我國(guó)在新興領(lǐng)域的監(jiān)管“還是非常及時(shí)的”。無(wú)論是此前的區(qū)塊鏈、算法推薦還是生成式人工智能，都在出現(xiàn)需求的第一時(shí)間出臺(tái)了相應(yīng)的監(jiān)管規(guī)則。

但由于AI手機(jī)涉及主體眾多，數(shù)據(jù)在不同主體間流動(dòng)，導(dǎo)致各環(huán)節(jié)責(zé)任難以區(qū)分，何波亦承認(rèn)，AI手機(jī)的誕生，確實(shí)給監(jiān)管帶來(lái)了挑戰(zhàn)。

何波稱，AI手機(jī)作為一個(gè)新應(yīng)用新事物，對(duì)很多普通用戶而言目前還難以清晰認(rèn)知到可能帶來(lái)的安全風(fēng)險(xiǎn)，尤其是在用戶信息被抓取和隱私權(quán)限被開啟時(shí)。此外，雖然現(xiàn)在的隱私政策更加細(xì)致了，但對(duì)普通用戶而言也更加復(fù)雜難懂。

更值得警惕的是，一旦用戶開啟彭根所言的“上帝模式”——無(wú)障礙權(quán)限，盡管手機(jī)系統(tǒng)會(huì)進(jìn)行提醒，但這些提醒通常只有一次，且警告內(nèi)容模糊，用戶很難真正理解其潛在風(fēng)險(xiǎn)。當(dāng)一些AI手機(jī)自帶的內(nèi)置應(yīng)用權(quán)限高于普通App時(shí)，用戶“鈍感”會(huì)再次被放大。

“無(wú)障礙模式的核心問(wèn)題是數(shù)據(jù)安全和網(wǎng)絡(luò)安全問(wèn)題，這個(gè)安全問(wèn)題首先應(yīng)該由技術(shù)專家去提出，并負(fù)責(zé)解決。”許可說(shuō)，比如，無(wú)障礙權(quán)限的設(shè)立是否已形成行業(yè)共識(shí)？它在何種場(chǎng)景下開通收益大于風(fēng)險(xiǎn)？在云端數(shù)據(jù)交互模式下，包括云端大模型蒸餾到本地化小模型時(shí)，技術(shù)標(biāo)準(zhǔn)如何制定？這些都需要行業(yè)予以回應(yīng)。

在他看來(lái)，對(duì)于AI手機(jī)的算法治理，第一，不能將數(shù)據(jù)和隱私的保護(hù)責(zé)任單方面壓給用戶；第二，技術(shù)的監(jiān)管永遠(yuǎn)優(yōu)先于法律的監(jiān)管。

北京大學(xué)政府管理學(xué)院教授馬亮注意到AI手機(jī)帶來(lái)的另一大新挑戰(zhàn)——市場(chǎng)競(jìng)爭(zhēng)秩序的變化。伴隨廠商和App圍繞用戶權(quán)限的爭(zhēng)奪越演越烈，勢(shì)必會(huì)涉及權(quán)限的定義、掌控及優(yōu)先級(jí)劃分等問(wèn)題。“當(dāng)前亟需形成共識(shí)，探索合理的權(quán)限治理模式。”馬亮說(shuō)。

許可也提出了對(duì)市場(chǎng)壟斷的擔(dān)憂。他觀察到，AI智能體在手機(jī)中的作用日益重要，它決定了資源的調(diào)配方式，可能改變傳統(tǒng)的App主導(dǎo)模式。如果未來(lái)某些AI模型在市場(chǎng)上占據(jù)主導(dǎo)地位，可能會(huì)給市場(chǎng)競(jìng)爭(zhēng)帶來(lái)新的挑戰(zhàn)，甚至產(chǎn)生現(xiàn)有《反壟斷法》和《反不正當(dāng)競(jìng)爭(zhēng)法》未曾涉及的問(wèn)題。

此外，許可提示稱，再聰明的AI智能體也需要加上“人類監(jiān)督”這個(gè)角色，即通過(guò)“人在環(huán)中”（Human-in-the-Loop，HITL）技術(shù)優(yōu)化，達(dá)成人類和機(jī)器智能的有機(jī)結(jié)合，讓手機(jī)AI智能體與現(xiàn)有法律相銜接。目前，該目標(biāo)的實(shí)現(xiàn)仍待更多制度和倫理層面的破局思路。