伴隨AI智能體“接管”手機屏幕，數(shù)據(jù)安全和隱私保護問題正變得更加復雜。尤其是當將AI“裝入”手機的兩張“技術地圖”——端側AI與云側AI時，還涉及第三方大模型，手機終端廠商、大模型提供者和開發(fā)者等不同商業(yè)主體間的生態(tài)模式及責任邊界尚不清晰。

另有專家提出更深一層擔憂：在AI手機時代，手機廠商和App開發(fā)者將為用戶權限展開激烈爭奪，原有的市場競爭格局將被重塑，當市場競爭由傳統(tǒng)的以App主導變?yōu)橐远藗却竽Ｐ椭鲗?，可能觸及現(xiàn)有《反壟斷法》和《反不正當競爭法》未曾涉及的問題。此外，面對越來越了解自身需求的手機智能體，用戶難免會產(chǎn)生智能體“自動化決策”的擔憂。

越聰明，越開放，越危險

和任何一種基于大模型的創(chuàng)新應用一樣，AI手機功能的實現(xiàn)，往往建立在“吞下”大量的個人數(shù)據(jù)的基礎上。尤其是訓練AI智能體時，需要不斷地收集、處理和分析用戶的各種信息、瀏覽習慣乃至生物特征數(shù)據(jù)，以訓練自動化推理能力，實現(xiàn)自動化決策。

“所以，隱私保護是一切商業(yè)故事的起點。”近日，在一場以 “AI手機隱私危機：新秩序中的安全挑戰(zhàn)與抉擇”為主題的學術研討會上，有業(yè)界人士提出。

目前AI手機主要基于三種開發(fā)路徑：基于端側AI大模型，自研AI的端云配合以及第三方AI參與的端云配合。

也因此，AI手機生態(tài)囊括了手機終端、第三方大模型、APP以及云服務等參與主體。不同于傳統(tǒng)手機以App為抓手的隱私保護策略，AI手機各主體間的數(shù)據(jù)安全責權關系將更加復雜，要想達成令用戶信服的數(shù)據(jù)安全解決方案，挑戰(zhàn)也更大。

中國法學會網(wǎng)絡與信息法學研究會常務副秘書長周輝在前述研討會上提到，相較于云側AI，端側AI能夠實現(xiàn)數(shù)據(jù)本地處理，本地模型個性化訓練與優(yōu)化，理論上能夠最大限度地減少數(shù)據(jù)傳輸，避免用戶敏感信息被上傳至云端。如果管理到位，這是一種“更私密”的解決方案。此外，由于端側AI設備相對獨立，算法更新和優(yōu)化在本地完成，用戶更易察覺和監(jiān)督。

但端側大模型真的能實現(xiàn)“AI鎖在手機硬件里”，讓用戶數(shù)據(jù)和隱私變得更安全嗎？

一種業(yè)界觀點認為，由于大模型各方、用戶與端、端與應用、端與云等風險責任有待清晰界定，目前法律制度尚待健全。

尚隱科技有限公司CEO張仁卓表示，純端側的模式能完全在本地處理用戶的數(shù)據(jù)，其安全性比較可控。但其風險是，在第三方App介入時，隱私保護的邊界往往模糊不清，也容易引發(fā)數(shù)據(jù)濫用或過度采集的問題。

北京漢華飛天信安科技有限公司總經(jīng)理彭根從事手機端側研究多年，他稱，AI手機誕生后，原本為了幫殘障人士“打破障礙”的無障礙權限正變成AI手機里的“上帝模式”，能夠打破各個App之間的沙箱隔離機制，具有極高的權限。“便利的同時也孕育了更大的危機。”彭根說，在無障礙模式下，AI手機的隱蔽式調用可能反而造成安全和隱私風險，乃至被不法分子使用，作為竊取用戶信息的工具。

另一個不可否認的事實是，端側AI計算能力不如云端。有調研顯示，盡管手機廠商都宣稱自己的端側AI大模型能力，但AI手機全部功能的實現(xiàn)，仍將依賴云側大模型。

“為了實現(xiàn)高算力、強算法等能力，目前AI手機的主流模式依然是端云配合，即將數(shù)據(jù)處理分散到本地與云端。”張仁卓說。他以蘋果手機舉例稱，蘋果努力采用本地AI處理數(shù)據(jù)，但也與其私有云計算（Private Cloud Compute, PCC）緊密配合。

而當用戶數(shù)據(jù)隨模型遷移至云端，如何強化云端數(shù)據(jù)的安全，使之與端側保持一致，并防止數(shù)據(jù)被濫用，就成為了數(shù)據(jù)安全和隱私保護領域的新挑戰(zhàn)。

此外，AI手機數(shù)據(jù)交互邊界的不斷擴大，同樣存在“硬幣的正反面”。

自誕生以來，AI手機的終端廠商就對第三方大模型報以開放合作態(tài)度。比如，榮耀、三星與百度的合作，小米接入豆包大模型，再如近一段時間以來，華為、榮耀、OPPO等一眾國產(chǎn)手機廠商相繼官宣接入DeepSeek-R1。

“即便是蘋果這樣的科技巨頭，涉及第三方AI的時候，PCC的保護程度也稍顯捉襟見肘，僅能保證數(shù)據(jù)的預處理安全。雖然手機廠商們大多會宣稱保護用戶數(shù)據(jù)，但這些聲明往往缺乏具體細節(jié)，潛藏著諸多不確定性與隱患。國內廠商數(shù)據(jù)保護舉措的透明度亦不充分。”張仁卓說。

在他看來，第三方AI大模型通常需要訪問大量用戶數(shù)據(jù)，這進一步增加了數(shù)據(jù)泄露的可能性；數(shù)據(jù)在端側、云端和第三方AI之間的流動復雜，透明度較低，責任分配也不明確，出現(xiàn)問題后恐怕難以追責。

“技術的監(jiān)管永遠優(yōu)先于法律的監(jiān)管”

中國信通院互聯(lián)網(wǎng)法律研究中心主任何波表示，人工智能是引領這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術，相關產(chǎn)業(yè)正在向多智能融合新階段發(fā)展。從目前情況來看，AI手機的發(fā)展不是完全裸奔的。

首先，現(xiàn)有的法律法規(guī)都適用并需要遵守。何波舉例說，《網(wǎng)絡安全法》《數(shù)據(jù)安全法》《個人信息保護法》明確規(guī)定了處理個人信息的要求，包括知情同意規(guī)則、最小必要原則等；今年1月1日生效的《網(wǎng)絡數(shù)據(jù)安全管理條例》進一步對涉及自動化工具、生成式人工智能等新興技術的數(shù)據(jù)處理活動作出了特殊規(guī)定，這些都可以作為AI手機的監(jiān)管依據(jù)。

對外經(jīng)貿大學數(shù)字經(jīng)濟與法律創(chuàng)新研究中心主任許可同樣認為，在既有法律規(guī)制的框架之內，對AI手機的監(jiān)管實際已非常多了。“盡管在某種程度上，中國互聯(lián)網(wǎng)發(fā)展的歷史就是不斷打破既有法律甚至在無法狀態(tài)中進行的歷史，但過去十年間，尤其是在過去五六年間，中國互聯(lián)網(wǎng)法律體系已經(jīng)相當全面了，基本覆蓋到每個領域。”許可說。

此外，何波還提到，我國在新興領域的監(jiān)管“還是非常及時的”。無論是此前的區(qū)塊鏈、算法推薦還是生成式人工智能，都在出現(xiàn)需求的第一時間出臺了相應的監(jiān)管規(guī)則。

但由于AI手機涉及主體眾多，數(shù)據(jù)在不同主體間流動，導致各環(huán)節(jié)責任難以區(qū)分，何波亦承認，AI手機的誕生，確實給監(jiān)管帶來了挑戰(zhàn)。

何波稱，AI手機作為一個新應用新事物，對很多普通用戶而言目前還難以清晰認知到可能帶來的安全風險，尤其是在用戶信息被抓取和隱私權限被開啟時。此外，雖然現(xiàn)在的隱私政策更加細致了，但對普通用戶而言也更加復雜難懂。

更值得警惕的是，一旦用戶開啟彭根所言的“上帝模式”——無障礙權限，盡管手機系統(tǒng)會進行提醒，但這些提醒通常只有一次，且警告內容模糊，用戶很難真正理解其潛在風險。當一些AI手機自帶的內置應用權限高于普通App時，用戶“鈍感”會再次被放大。

“無障礙模式的核心問題是數(shù)據(jù)安全和網(wǎng)絡安全問題，這個安全問題首先應該由技術專家去提出，并負責解決。”許可說，比如，無障礙權限的設立是否已形成行業(yè)共識？它在何種場景下開通收益大于風險？在云端數(shù)據(jù)交互模式下，包括云端大模型蒸餾到本地化小模型時，技術標準如何制定？這些都需要行業(yè)予以回應。

在他看來，對于AI手機的算法治理，第一，不能將數(shù)據(jù)和隱私的保護責任單方面壓給用戶；第二，技術的監(jiān)管永遠優(yōu)先于法律的監(jiān)管。

北京大學政府管理學院教授馬亮注意到AI手機帶來的另一大新挑戰(zhàn)——市場競爭秩序的變化。伴隨廠商和App圍繞用戶權限的爭奪越演越烈，勢必會涉及權限的定義、掌控及優(yōu)先級劃分等問題。“當前亟需形成共識，探索合理的權限治理模式。”馬亮說。

許可也提出了對市場壟斷的擔憂。他觀察到，AI智能體在手機中的作用日益重要，它決定了資源的調配方式，可能改變傳統(tǒng)的App主導模式。如果未來某些AI模型在市場上占據(jù)主導地位，可能會給市場競爭帶來新的挑戰(zhàn)，甚至產(chǎn)生現(xiàn)有《反壟斷法》和《反不正當競爭法》未曾涉及的問題。

此外，許可提示稱，再聰明的AI智能體也需要加上“人類監(jiān)督”這個角色，即通過“人在環(huán)中”（Human-in-the-Loop，HITL）技術優(yōu)化，達成人類和機器智能的有機結合，讓手機AI智能體與現(xiàn)有法律相銜接。目前，該目標的實現(xiàn)仍待更多制度和倫理層面的破局思路。