2025年，AI手機消息頻頻。

近日，蘋果被證實與多家中國廠商洽談，推動蘋果在中國手機中落地AI功能。

許多人可能對去年一場手機發(fā)布會上用AI一鍵下單2000杯咖啡的事記憶猶新。

當時在場所有人發(fā)出歡呼，卻很少有人想到一個問題： 手機內(nèi)置的AI助手是如何一鍵喚醒瑞幸小程序或者APP、并且實現(xiàn)、支付的？

隨著人工智能浪潮席卷，硬件創(chuàng)新已走到摩爾定律極限，AI手機也正在成為兵家必爭的賽道。

2025年，AI一定會帶來變化，這種在行業(yè)內(nèi)幾乎已經(jīng)形成共識的判斷，也讓手機廠商把部署端側(cè)AI作為重要的硬件實踐場景，并冀望借此帶來手機消費市場的新機會。

陸續(xù)有不少手機廠商推出AI手機：最早是三星，隨后蘋果也開始加入，2023年9月，蘋果推出了搭載了蘋果人工智能的手機iPhone16；國內(nèi)市場的競速者們也快速入局：OPPO在其海外手機上結(jié)合谷歌的大模型——Gemini，實現(xiàn)了AI功能；2024年10月，榮耀推出了AI手機……

根據(jù)第三方研究機構(gòu)Canalys的數(shù)據(jù)，2024年，全球有16%的智能手機出貨，到2028年，這一比例將上升至54%。

當AI手機越來越智能，你的手機可能比你自己更懂你。它獲知你所思所想，并幫助你完成所有事務；它儲存了你所有的生物數(shù)據(jù)，會根據(jù)你的健康狀況提出規(guī)劃；它掌握你所有的生活習慣、口味偏好，能夠給你點一份你最喜歡的外賣……

一切都那么美好、便利，但在我們不易察覺的另一面，這可能意味著， 在你的身邊，將存在一個數(shù)據(jù)的“黑洞”， 在不知情的情況下不斷吸食你的個人信息進入黑洞中，在未被解釋的情況下，生成新的數(shù)據(jù)，左右你的生活與選擇。

智能體新命題

新技術(shù)奇點時刻，往往帶來革命性的產(chǎn)品，背后蘊含著商業(yè)邏輯的顛覆，也帶來了新的行業(yè)挑戰(zhàn)。

在移動互聯(lián)網(wǎng)時代，APP掌握了用戶的流量入口，在AI Agent時代，流量入口成為了智能體，例如手機，更尖銳的問題是，與移動互聯(lián)網(wǎng)時期單個APP不同，AI手機要提供服務，需要掌握個人數(shù)據(jù)的全集——例如位置信息、通訊記錄、瀏覽習慣、生物特征等數(shù)據(jù)，這讓數(shù)據(jù)隱私保護的范圍和鏈條更為復雜。

“手機，是一場數(shù)據(jù)革命。” 尚隱科技有限公司CEO張仁卓如是說。

在這場數(shù)據(jù)革命之下，對于隱私數(shù)據(jù)的使用更加隱蔽、復雜、難以界定；原有的法律法規(guī)難以適應AI智能體時代的隱私保護規(guī)則；云廠商、大模型廠商、APP廠商以及手機廠商在數(shù)據(jù)使用上的責任究竟如何厘清邊界，確保在危險或惡性事件發(fā)生時，有人為此負責？?

我們與多位業(yè)內(nèi)人士交流，試圖理清，智能體時代下的數(shù)據(jù)泄漏風險何在？在當下又該如何預防？

“這是一個新命題?！币晃粡氖聰?shù)據(jù)隱私保護多年的專家表示，“但提出問題本身，就是意義?！?/p>

爭奪流量入口，是一切與數(shù)據(jù)有關(guān)的商業(yè)底層邏輯。另一個邏輯則是，在生成式AI時代，需要借助個人數(shù)據(jù)提供服務的相關(guān)方變多，其中不可避免進入了如今隱私保護法規(guī)的“盲點”。

移動互聯(lián)網(wǎng)時代，APP是流量入口，APP廠商通過獲得用戶允許的個人數(shù)據(jù)，進行脫敏處理之后，為其所用。

在AI Agent時代，大模型降低了人機交互的門檻，人們通過自然語言即可與機器進行溝通，此時，AI Agent取代APP，成為了與用戶交流溝通的方式，也成為了流量入口，這意味著數(shù)據(jù)的控制權(quán)，手機也希望為用戶直接提供服務。

但與移動互聯(lián)網(wǎng)時代不同的是，相比于APP對個人信息獲取的范圍，手機所需要的個人信息更多，是所有個人數(shù)據(jù)的全集，其接觸的數(shù)據(jù)更深、更為底層。從生態(tài)來看，這將會造成新的“贏家通吃”，也使消費者的面臨更復雜的信息迷宮，泄漏的風險大，甚至陷阱重重，難以預料。換句話說，AI手機成為了數(shù)據(jù)泄露的高風險點，并且這種泄漏造成的后果，更甚于移動互聯(lián)網(wǎng)時代的APP。

首先，手機擁有對數(shù)據(jù)的更高權(quán)限。過去，APP是個人信息的主要收集者，但這并不意味著手機就無法接觸到個人數(shù)據(jù)，只是彼時手機廠商如果需要獲取數(shù)據(jù)，恐怕需要跟眾多APP廠商進行繁瑣的拉扯與博弈，在用戶同意授權(quán)的前提下。這種高權(quán)限的體現(xiàn)在于，第一，用戶無法刪除手機出廠自帶的應用；另外，手機的一些應用是可以在后臺無感知運行，例如我們?nèi)缃耠S叫隨到的“Siri”、“小愛同學”等，用戶很難察覺哪些應用還在運行中，數(shù)據(jù)可能就在這個過程中不知不覺中被讀??；一旦AI手機助手能夠幫你操作手機，如果讓手機幫忙點一杯咖啡，最后會跳轉(zhuǎn)至支付界面，需要用戶手動輸入，但業(yè)內(nèi)人士表示，從技術(shù)上并不需要手動輸入密碼，手機完全有能力獲知密碼信息。

其次，手機所接觸的數(shù)據(jù)更多、更敏感也更為深入。“手機最牛的在于它的屏幕?！币晃粩?shù)據(jù)隱私保護專家表示，他通過屏幕與人發(fā)生交流，而用戶通過手機屏幕了解一切信息，屏幕的控制權(quán)在手機廠商手中，這就意味著，當用戶在屏幕上展示信息的那一刻，就相當于向手機廠商公開了全部數(shù)據(jù)——它可以通過屏幕窺探到你的所有隱私。曾經(jīng)，屏幕可能只是展示信息的功能，未來“屏幕可能就是一個流量入口”。

技術(shù)與監(jiān)管的博弈

面對這種高權(quán)限以及全方位獲取個人數(shù)據(jù)的角色，如今并沒有明確的約束其獲取數(shù)據(jù)能力的法律或規(guī)定。

數(shù)據(jù)鏈條中，涉及手機廠商、云廠商、APP廠商，或許還包括第三方模型廠商。而數(shù)據(jù)獲取途徑也增多，“你無法每一項都詢問一次同意?！鼻笆鰧＜冶硎尽＿@并不僅是復雜度的問題，而是難以界定的處理方式。

在新技術(shù)快速發(fā)展之際，技術(shù)總是先于法律法規(guī)先行。

目前手機廠商獲得推進端側(cè)大模型分為意圖框架、識屏+模擬點擊兩大路線，意圖框架需要獲得app廠商支持和加入，雙方共建生態(tài)。而識屏+模擬點擊的路線，指的是通過對手機屏幕截屏、理解和分析屏幕內(nèi)容，通過模擬點擊腳本，實現(xiàn)繞過第三方app授權(quán)，即可操作手機內(nèi)部功能，這種方式顯然更加快捷。

目前，通過一句指令，讓手機點開外賣APP幫用戶點一杯外賣的方式，其更多采用的是“識屏+模擬點擊”的技術(shù)路線，并開啟了“無障礙權(quán)限”功能?！斑@種方式一定會導致嚴重的安全隱患，以及‘踢皮球’的問題?！鼻笆鰯?shù)據(jù)安全專家表示。其中的關(guān)鍵，就是“無障礙權(quán)限”功能。這一功能，也被視為是最高風險等級的功能，該功能一開，相當于一扇被去掉了鎖的超市大門。

最初，“無障礙權(quán)限”原本是為了方便殘障人士使用手機而設置的特殊功能，另一個使用無障礙權(quán)限的合法場景是自動化測試，可以打破各個APP之間的沙箱隔離機制。

漢華信安總經(jīng)理彭根長期從事手機端側(cè)安全研究，其在一次研討會中指出，無障礙權(quán)限能做四件事——監(jiān)控屏幕，即對所有的內(nèi)容，都在監(jiān)控范圍內(nèi)，并且監(jiān)控速度很快，在零點幾秒的時間，屏幕的所有文字都會被讀走；另外，代替用戶進行點擊、滑動、輸入；第三，打破沙箱隔離機制。

所謂的“沙箱隔離機制”，是一種安全技術(shù)，用于限制APP的訪問權(quán)限和操作范圍，確保每個應用程序是在獨立、封閉的環(huán)境中運行，防止其對系統(tǒng)和其他應用程序造成干擾和破壞。但無障礙權(quán)限則可以打破這種安全機制，甚至優(yōu)先于用戶自身，讀取全部手機的信息。無障礙權(quán)限，被定為“高危權(quán)限”，在點擊一次“同意”之后，手機很可能不會再做出提醒，因此用戶極容易在不知情的情況下開啟了無障礙權(quán)限，也就相當于將自己的隱私暴露給了手機。

用戶是否可以感知到手機正在后臺獲取數(shù)據(jù)？識屏功能能否被識別？筆者嘗試詢問了多位技術(shù)專家，均表示目前尚且無法從技術(shù)上解決這個問題。

另一方面來自手機AI的技術(shù)帶來的隱患，來自端云的結(jié)合。

當數(shù)據(jù)存儲在本地時，用戶自己就是終極個人信息處理者，但在大模型時代，本地部署很多時候無法滿足其對數(shù)據(jù)量以及功能的需求，端云結(jié)合的方式不可避免。

在端云協(xié)同中，數(shù)據(jù)流通的鏈路逐漸增多，涉及到的相關(guān)方也增多，不光是手機廠商，還有云廠商、APP廠商，甚至可能涉及到第三方大模型廠商，每個鏈路、每一個環(huán)節(jié)都不同程度參與了數(shù)據(jù)的收集和處理，甚至影響整個服務的提供，數(shù)據(jù)的交互流通也變得更加復雜。如何分配以及明確每個環(huán)節(jié)的責任，這給了數(shù)據(jù)隱私保護政策的制定，帶來了困難。

?“下游產(chǎn)品對人工智能的使用可能遠超于人工智能系統(tǒng)開發(fā)人員最初的設想，此時應如何平衡與區(qū)分各方主體的責任？再者，就具體的責任承擔而言，應當要求人工智能系統(tǒng)的開發(fā)人員和部署人員在多大程度上、多長時間內(nèi)保留何種類型的系統(tǒng)文檔材料，以實現(xiàn)問責判斷。”金杜研究院合伙人寧宣鳳、吳涵等人在一篇文章中提及。

除了風險，也涉及到利益分配。一位長期從事數(shù)據(jù)隱私政策研究的專家表示，如果手機可以讀取所有的數(shù)據(jù)，同時也包括APP通過收集個人信息，并進行加工處理后的數(shù)據(jù)，這當然需要APP廠商付出成本，如果手機廠商零成本獲取這些數(shù)據(jù)，對APP廠商而言并不公平。“從這個角度來說，單純從個人信息的角度來分析，是不夠的?！鼻笆鰧＜冶硎?。

“這并不是一個單純的一事一議的這樣一種治理的回應，不是一個權(quán)限的管理，它是原權(quán)限、原治理的問題?！北本┐髮W政府管理學院教授馬亮表示。

此外，在流通過程中，大模型至今無法解決的“數(shù)據(jù)黑箱”，同樣使用戶并不知道數(shù)據(jù)最后如何被流通，又是如何被處理。

手機廠商的嘗試

一些手機廠商在信息保護方面做了嘗試。

一些手機廠商在宣傳中，提出關(guān)注端側(cè)AI的能力，但如今的現(xiàn)實是端側(cè)很難實現(xiàn)一些復雜的AI功能，端云結(jié)合依然是手機廠商難以繞過的坎兒，一個堅不可摧的云服務城墻至關(guān)重要。

當端側(cè)AI在如今大模型的今天很難實現(xiàn)的情況下， 私有云，對于手機廠商來說或許是一個更好的選擇。

尚隱科技有限公司CEO張仁卓在一次論壇中，描述了蘋果和谷歌在數(shù)據(jù)安全上的做法。

以蘋果公司為例，在蘋果的生態(tài)中，不光集合了蘋果自身的AI，還接入了其他大模型公司，還有一些小模型公司，蘋果AI努力采用本地AI代理的模式，另一方面，蘋果在私有云上拓展了一塊安全性很高的空間，這個安全性很高的空間體現(xiàn)在，第一是無狀態(tài)的計算，數(shù)據(jù)上下游之間沒有關(guān)系。

舉一個簡單的例子，當用戶隨機進了一個餐館，這個餐館不會知道用戶以前進了哪些餐館。另一點則是沒有特權(quán)訪問，包括蘋果自身，也不能在未經(jīng)用戶同意的情況下訪問用戶數(shù)據(jù)，同時蘋果將用戶特征的信息隱藏，并提供了可驗證的透明度。如果需要使用第三方AI時，蘋果的做法是，不提供IP，第三方AI不存儲數(shù)據(jù)。

谷歌的做法邏輯與蘋果類似，其采用的密封計算技術(shù)，便可理解為，在云上開辟一塊空間，供AI使用。數(shù)據(jù)在傳輸、存儲和處理時均保持加密狀態(tài)，即使在內(nèi)存中處理，數(shù)據(jù)也保持加密狀態(tài)，防止未經(jīng)授權(quán)的訪問。在這樣的狀態(tài)下，多個參與方在不暴露各自數(shù)據(jù)的情況下進行聯(lián)合計算，同時，會在數(shù)據(jù)分析、機器學習等場景中保護用戶隱私。

AI風險，敏捷治理

目前業(yè)內(nèi)共識，更多還是基于原有的法律，更準確地說，是基于舊有法規(guī)的新組合方式。

?“現(xiàn)有的法律和法規(guī)對于目前的AI助手，仍然適用”。多位從業(yè)者表示。對于AI手機，目前最重要的就是對收集的信息的處理和使用的問題，而無論是網(wǎng)絡安全法、個人信息安全保護法等，都對信息使用和處理作了相關(guān)規(guī)定。另外，中國在信息領(lǐng)域的監(jiān)管還在及時適時而變，增加新的內(nèi)容。“目前監(jiān)管已經(jīng)在關(guān)注，或者說已經(jīng)在介入監(jiān)管了?！睂＜冶硎?。

美國的做法或許是一個參考，美國NIST在今年1月26日發(fā)布的《AI風險管理框架1.0》是一個很好的參考。

美國在數(shù)據(jù)安全上，依靠各州法律以及行業(yè)自律。在這份AI風險管理框架中，包括治理、映射、測量和管理的四個板塊。

治理模塊包括了法律法規(guī)、風險活動級別確定、責任劃分與認定、勞動力的多樣性和公平性以及文化宣傳、反饋機制、第三方風險管理；映射主要用于確定特定場景與其對應的AI風險解決方案，例如會對AI系統(tǒng)的預期用途以及風險作出背景評估、考慮參與者的多樣性、理解AI技術(shù)的目標、商業(yè)價值以及監(jiān)督機制的評估等；測量主要采用定量和/或定性的工具、技術(shù)和方法來分析、評估、測試和監(jiān)控AI風險及其相關(guān)影響，例如一些可信度評估、涉及的自然人評估等；管理主要是將相關(guān)資源分配給相應的AI風險，進行風險處置。

這樣的方式，既對AI風險進行框定，確保這些行為在框架內(nèi)的運行，又給了一定的自由空間。既有事前的預防，也有事后風險的跟蹤。

“有關(guān)您個人信息權(quán)益的條款重要內(nèi)容，我們已用加粗形式提示，請?zhí)貏e關(guān)注?！边@是在下載DeepSeek時，點擊《隱私政策》，上面詳細披露了九點隱私政策相關(guān)的內(nèi)容，包括如何收集和使用個人信息；如何保護個人信息；如何實現(xiàn)管理個人信息的權(quán)利；如何保護未成年人的個人信息；如何更新版本政策以及聯(lián)系方式。

在DeepSeek的隱私政策中，提及了APP如何委托處理、共享、轉(zhuǎn)讓、公開披露個人信息的細節(jié)。例如合法原則、正當與最小必要原則、安全審慎原則等，甚至在條款中，披露了第三方共享的清單，提出若具體功能和場景中涉及關(guān)聯(lián)方和第三方、第三方提供服務，則合作方范圍包括關(guān)聯(lián)方和第三方。

一些新的條款也在及時調(diào)整與增加，并根據(jù)已有的法律法規(guī)，針對具體問題做出新的調(diào)整和組合。

2025年1月1日生效的《網(wǎng)絡數(shù)據(jù)安全管理條例》，對于進一步的自動化處理，甚至是人工智能一些新技術(shù)做了特殊的規(guī)定，要求網(wǎng)絡數(shù)據(jù)處理者如何使用自動化工具訪問數(shù)據(jù)的，需要對它帶來的服務進行影響評估。還有就是不得干擾服務的網(wǎng)絡質(zhì)量的正常運行，這是很針對AI手機數(shù)據(jù)收集問題。還要求提供生成式服務的數(shù)據(jù)處理者應該加強對數(shù)據(jù)的安全管理，采取措施防止數(shù)據(jù)泄露，我們可以看到這些問題都是密切相關(guān)的。

個人信息保護影響評估，也是目前針對AI手機隱私保護的可行方式。前述專家表示，他如今的主要工作就是針對這些AI助手，進行個人信息保護影響的評估。

中國《個人信息保護法》要求，在某些情況下進行個人信息保護影響評估 （PIA） ，以確保個人信息處理活動的合法性和安全性，一共有五種場景：

• 處理敏感個人信息：敏感個人信息包括生物識別、宗教信仰、醫(yī)療健康、金融賬戶、行蹤軌跡等；

  
  

• 利用個人信息進行自動化決策：如通過算法進行用戶畫像、自動化推薦等；

  
  

• 委托處理個人信息、向第三方提供個人信息或公開個人信息；

  
  

• 向境外提供個人信息；

  
  

• 其他對個人權(quán)益有重大影響的個人信息處理活動。

其中評估的內(nèi)容包括，個人信息處理的目的、方式等是否合法、正當和必要；評估數(shù)據(jù)處理活動可能對個人權(quán)益 （如隱私、財產(chǎn)、名譽等） 產(chǎn)生的影響以及所采取的保護措施是否合法、有效并與風險程度相適應。

現(xiàn)在針對AI手機所出現(xiàn)的新的場景就屬于第五點的內(nèi)容，“如果我們可以用評估的視角提前介入，就能夠把風險降低到可控范圍，讓應用先落地做起來?！鼻笆鰧＜冶硎?。

“讓子彈飛一飛?！笔悄壳皹I(yè)界更為贊同的做法， 盡可能不傷害行業(yè)的發(fā)展，進行敏捷治理。 “敏捷治理”或許是一種思路，觀韜中茂律師事務所合伙人王渝偉曾在采訪中提出了這個觀點，在一開始先制定頂層框架，在過程中不斷調(diào)整監(jiān)管治理和風險控制的措施，在一些案例中不斷表明監(jiān)管的態(tài)度，并不斷調(diào)整監(jiān)管思路并釋放這種信號。