端侧AI走向系统级智能体:与App交互的技术路径及合规边界(下篇)
端侧AI走向系统级智能体:与App交互的技术路径及合规边界(下篇)
四、共性合规挑战
(一)系统级入口、默认调用与自我优待
无论后台使用接口还是GUI,系统级智能体都可能决定调用谁、排序谁、默认谁和排除谁。当智能体成为用户表达意图的第一入口,App之间的竞争会从争夺用户下载和打开,转变为争夺被智能体看见、调用和展示的机会。
在中国法下,系统级智能体若默认调用自营服务、限制竞争性智能体、对第三方App设置不透明接入条件、实施差别排序或排他合作,可能进入反不正当竞争和反垄断分析。适用反垄断法时,仍需结合相关市场、市场支配地位、正当理由和排除限制竞争效果进行判断;“自我优待”本身并不当然构成独立违法类型。2025年修订的《反不正当竞争法》自2025年10月15日起施行,进一步明确规制利用数据、算法、技术和平台规则妨碍其他经营者网络产品或服务正常运行,以及以不正当方式获取、使用其他经营者合法持有的数据。[7]
在个案分析中,需要区分智能体自身提供服务形成的正常产品竞争,与依托操作系统权限获得的不对称优势。例如,系统级智能体是否能够获得竞争性智能体无法取得的屏幕、通知或账户能力;是否将自营服务设置为不可更改的默认选项;是否允许用户指定首选服务商;第三方App能否以合理成本接入。这些事实比抽象判断智能体“具有平台属性”更为关键。
《网络反不正当竞争暂行规定》以及市场监管部门公布的自动识别文字、模拟点击和无障碍服务相关案件,也说明自动化工具若绕过平台操作频率限制、破坏内容分发机制或显著增加平台风控成本,可能面临不正当竞争风险。但这些案件的违法判断通常同时考虑操作规模、目的、技术手段、平台规则、数据类型及实际损害,不能机械推导为一切GUI操作均违法。[8]
欧盟《数字市场法》对已被指定的守门人及核心平台服务设置互操作、数据使用和公平竞争义务。欧盟委员会2026年发布的移动生态案例材料,已具体讨论第三方AI应用通过自定义唤醒词调用系统能力的问题。相关义务是否适用于某一智能体,仍取决于主体和服务是否落入《数字市场法》的指定范围。[9]
对入口公平的治理,不应只要求智能体“平均分配流量”。合理排序可以综合价格、距离、服务质量、用户偏好、库存和履约能力,关键在于避免未披露的商业利益决定结果,并为用户提供改变默认服务商、查看主要排序因素和选择其他服务的真实可能。对涉及广告或商业推广的结果,还应避免以自然推荐的形式掩盖付费关系。
美国更多通过反垄断诉讼和个案执法处理入口控制。美国司法部在针对Apple的起诉书中,将其对超级App、云游戏、跨平台消息和数字钱包等方面的限制列为诉方主张的排除性行为组成部分;这些内容属于诉讼主张,而非已经生效的司法认定。[10]
(二)数据治理、个人信息保护与算法合规
接口可能返回结构化数据,GUI可能通过读屏取得界面数据;前者更容易发生数据沉淀和二次复用,后者更容易发生伴随性收集和跨App行为链条拼接。只要智能体读取、分析、缓存、传输或复用个人信息、App内数据和交易数据,就需要识别具体处理主体、合法性基础、处理目的和数据流向。
在中国法下,应综合适用《个人信息保护法》《数据安全法》《网络数据安全管理条例》以及2026年1月1日起施行的现行《网络安全法》。处理个人信息应当具有明确、合理的目的,与处理目的直接相关,并采取对个人权益影响最小的方式。[11]
智能体生态中还可能出现委托处理、共同处理和向其他个人信息处理者提供个人信息等不同法律关系。手机厂商、模型服务商和具体工具提供方是否共同决定处理目的和方式,不能只依据合同名称判断,而应结合谁决定收集字段、保存期限、模型训练用途和第三方共享范围。角色识别错误,会直接影响告知、同意、个人权利响应、安全事件通知和损害责任的分配。
涉及敏感个人信息的,应审查特定目的、充分必要性、严格保护措施和依法取得单独同意等要求;属于处理敏感个人信息、利用个人信息进行自动化决策、委托处理、向其他处理者提供、公开或向境外提供等法定情形的,应依法事前开展个人信息保护影响评估并留存记录。优先端侧处理、减少云端传输和缩短保存期限是重要降险措施,但这并不意味着所有场景均存在法定的“本地化处理”义务。
此外,还需要区分个人信息与App经营数据。价格、库存、评价和商户信息中可能同时包含公开信息、个人信息、具有竞争价值的数据和符合保密条件的商业秘密。不同数据受到保护的依据并不相同,不能简单以“App内数据”或“数据权益”概括。智能体是否绕过技术措施、是否批量获取、是否替代原平台服务、是否造成实质性竞争损害,往往决定其风险程度。
面向公众提供生成式AI、算法推荐或深度合成服务时,还应根据具体功能关注算法备案、安全评估、内容安全、用户权益和未成年人保护等要求。涉及生成、传播文本、图片、音频或视频的,还需评估《人工智能生成合成内容标识办法》及配套强制性国家标准的适用。[12]
欧盟《通用数据保护条例》(GDPR)会重点审查合法性基础、透明告知、数据最小化、目的限制、保存期限、数据主体权利和控制者、处理者角色划分。GDPR第22条关于自动化决策的重点适用对象,是完全基于自动化处理并对个人产生法律效果或类似重大影响的决定,而不是所有画像或自动化功能。[13]
智能体还可能被认定为高风险系统而受到欧盟《人工智能法》的重点规制,具体应依据其预定用途、实际功能以及第6条和附件三判断,并非只要进入就业、教育、金融或医疗行业即当然属于高风险系统。一旦被归类为高风险系统,提供者通常需要建立持续的风险管理和数据治理机制,编制技术文档并保存日志,确保向部署者提供必要的透明信息,设置有效的人类监督措施,并满足准确性、稳健性和网络安全要求;部署者还需依照使用说明运行系统、安排具备适当能力的人员实施监督,并履行监测、日志保存以及法定情形下的基本权利影响评估等义务。相关义务的实施仍处于过渡和调整阶段,具体适用时间需结合届时生效的规则和时间表判断。[14]
美国目前主要通过联邦贸易委员会法关于不公平或欺骗性行为的规则、州隐私法、金融和医疗等行业规则以及儿童在线隐私保护制度,约束企业的隐私、安全和自动化决策承诺。企业披露与实际处理是否一致、是否超出用户合理预期,是重要执法考量。[15]
(三)代客交易、默认选择与责任承担
当智能体从推荐走向代为行动,用户可能只表达模糊目标,而服务商选择、价格比较、优惠适用、取消规则和交易动作均由智能体在后台完成。此时需要结合消费者权益保护、电子商务、民法典代理和合同规则分析用户意思表示、合同成立、错误操作和责任承担。[16]
高风险交易应当让用户清楚知道智能体准备做什么、代表谁行动、将向哪个服务商提交何种信息,并在不可逆节点前提供二次确认。若默认服务商和排序逻辑缺乏必要披露,价格、取消或售后规则被折叠,或者用户缺乏撤销、投诉和追溯路径,可能引发知情权、选择权、公平交易权以及合同效力争议。
确认机制也不应沦为形式。智能体应在确认页面突出展示对决定具有实质影响的信息,例如最终价格、数量、服务商、收货地址、支付方式、取消条件和自动续费安排;不应把关键条款隐藏在折叠页面,也不宜通过预先勾选或连续弹窗诱导用户快速确认。对于模型自行补全的条件,应明确标识并允许用户修改。
责任分配不能仅依赖格式条款。至少应能够回答:错误来自用户指令、模型规划、接口返回、界面识别还是App执行;谁保存了足以还原过程的日志;用户如何暂停、撤回、申诉和获得补救;因错误交易或数据泄露产生的损失由谁承担。
智能体运营者还应避免通过“仅提供技术服务”等概括性条款排除其应承担的责任。若智能体主动选择服务商、补全关键交易条件或代为提交订单,其对交易形成的影响已经超出单纯传输信息。App和实际服务提供者也不能因为指令经智能体传递,就当然免除对商品质量、履约、退款和账户安全承担的法定或约定义务。
五、不同路径的特殊问题
(一)协议化路径:接入、权限和工具安全
第一,接口接入与互操作边界。接口开放方并非当然负有无条件接入义务,安全、隐私、风控、系统性能和服务质量均可能构成合理限制。但若承担入口分发功能的平台以不合理条件拒绝特定智能体接入,实施排他合作、差别待遇或不透明排序,仍可能影响竞争秩序。判断时应区分合理安全限制与借安全之名排除竞争。
为降低争议,接口规则宜明确接入资格、技术标准、审核时限、调用费率、排序原则、数据回流、暂停或终止条件和申诉机制。对相同风险和能力的经营者原则上适用一致条件;因安全等级、服务质量或监管要求实施差异化管理的,应能够说明客观理由。
第二,分层授权与最小权限。协议化调用通常至少涉及三层关系:用户是否授权智能体发起任务; App或服务方是否授权调用特定能力;操作系统或平台是否允许取得设备、账号、位置、相册或企业系统权限。三层授权不应被一个笼统的“同意”按钮替代。访问令牌应限定受众、权限范围和有效期限,禁止未经验证的令牌透传,并对高风险工具采用渐进授权和按需提权。[4]
第三,工具调用安全与责任追溯。接口化把App能力变成可执行工具,其风险不再只是“读到什么”,而是“能做什么”。邮件发送、文件删除、订单提交、支付和数据库写入等工具应设置清晰描述、风险分级、参数校验、调用限频、人工确认、异常回滚和日志审计。涉及大规模个人信息处理的主体,还应结合《个人信息保护合规审计管理办法》建立相应审计机制。[17]
工具描述本身也可能成为安全边界。若工具名称、参数和后果说明含糊,模型可能调用错误功能;若第三方服务器可随意更改工具定义,还可能通过提示注入诱导智能体泄露数据或执行高风险动作。客户端应校验工具来源和变更,对新增权限或功能重新取得授权,并防止把工具返回内容直接视为可信指令。
第四,数据复用和跨境治理。接口返回的数据更结构化,也更容易被沉淀为画像、推荐依据、训练数据或商业分析资产。服务协议应明确数据能否用于当次任务之外的目的、保存多久、能否与其他数据合并、是否用于模型训练。涉及数据出境时,应结合数据类型、主体属性、数量门槛和具体场景适用《促进和规范数据跨境流动规定》等现行制度,而不宜笼统认为所有跨境调用均须申报安全评估。[18]
(二)GUI路径:授权边界、读屏与平台规则
第一,用户授权不能自动替代App同意,但App规则也不是绝对边界。用户可以授权智能体替自己操作设备;App是否有权限制该操作,应进一步考察账号安全、技术措施、数据权益、商业秘密、操作规模、竞争关系和实际损害。普通、低频、与用户真实意图一致的辅助操作,与批量抓取、绕过技术措施、操纵流量或破坏风控的自动化行为,不应作相同评价。
第二,读屏本身就是数据处理。智能体为了点击一个按钮,可能同时看见整屏聊天、地址、支付、推荐、广告、价格和风控信息。即使数据只在设备本地处理,也不能当然排除个人信息保护规则适用,是否上传云端只是影响风险高低的重要因素之一。产品应尽量采用区域化识别、敏感字段遮蔽、瞬时处理、禁止无关缓存和任务结束即清理等措施。
如果智能体需要长期观察屏幕或在多个App之间保持上下文,应特别避免用一次性的一揽子授权覆盖持续监测。更稳妥的设计是按任务启动、按App提示、按敏感程度升级授权,并向用户持续显示智能体正在读取和操作的范围。用户暂停任务或锁屏后,相关观察和执行权限应及时终止。
第三,模拟操作可能与页面流程和平台规则冲突。自动跳过开屏广告、抢红包外挂,以及市场监管部门公布的屏幕识别和自动点击案件表明,第三方工具若绕过平台商业展示、改变公平参与秩序或破坏风控机制,可能构成不正当竞争。[8]但平台限制也应具有合理安全目的并符合必要性和比例性,不能借反自动化措施歧视竞争性智能体或锁定用户。
评价GUI介入是否不当,宜综合考虑五项事实:是否经过用户真实授权;是否规避或破坏技术保护措施;是否批量、持续或高频操作;是否取得并复用与任务无关的数据;是否对平台运行、其他经营者或消费者造成实质损害。这样的个案分析既能防止以“技术中立”为由掩盖破坏行为,也能避免把用户使用辅助工具的正当需求一概排除。
Google Play现行政策允许AccessibilityService API用于多种应用,但普通自动化工具须履行显著披露、同意和用途限定等要求,并原则上不得利用该API自主发起、规划和执行行动或决策;经验证、以帮助残障人士为核心目的的无障碍工具存在例外。[19]这属于应用分发平台政策,不应直接等同于法律上的禁止性规定,但会实质影响产品上架和功能设计。
结语:在创新发展与边界治理之间
端侧AI走向系统级智能体,改变的不只是人机交互方式,也在重塑用户、操作系统、智能体与App之间的关系。当用户不再逐一打开App,而是直接向智能体表达目标时,智能体可能同时承担信息入口、服务选择和任务执行等功能。由此产生的问题,也从“智能体能否操作App”进一步转向:它可以调用哪些能力、读取哪些数据、选择哪些服务,以及相应后果应当由谁承担。
协议化路径与GUI路径分别代表了智能体进入App生态的两种方式。协议化路径以App或服务方主动开放能力为基础,更有利于明确权限、记录调用和控制风险,但其覆盖范围取决于接口开放程度;GUI路径能够补充接口不足和长尾应用场景,却更容易涉及读屏范围、自动化操作身份、App安全措施和平台规则等争议。二者并非非此即彼,实践中应根据任务性质、操作后果和可审计程度确定适当路径。
无论采取何种路径,用户授权都不能当然替代App或服务方的授权,也不能成为绕过身份认证、交易确认、安全控制和数据保护规则的依据。涉及屏幕读取、跨App数据调用和个人画像的,应当遵循目的明确、最小必要和可撤回原则;涉及支付、下单、金融交易等可能产生财产处分或不可逆后果的,应当保留清晰的服务商选择、关键信息展示、用户确认、操作记录和申诉补救机制。
与此同时,App和平台对智能体的限制也需要具有合理边界。账号安全、隐私保护、风控和系统稳定可以构成正当限制理由,但不应被用于实施不透明排序、自我优待或不合理排斥。系统级智能体能否形成可持续的生态,最终取决于各方能否在技术创新、用户自主、App经营利益、数据权益、消费者保护和公平竞争之间建立清晰且可验证的交互边界。
[主要参考资料]
7. 《中华人民共和国反不正当竞争法》(2025年修订)。
8. 《网络反不正当竞争暂行规定》;市场监管总局公布的2025年八起网络不正当竞争典型案例;“芒果TV”诉“拦精灵”案及微信抢红包外挂案相关公开裁判、报道材料。
9. Regulation (EU) 2022/1925(Digital Markets Act);欧盟委员会2026年移动操作系统互操作和数据可携带案例材料。
10. United States and Plaintiff States v. Apple Inc.相关起诉文件及美国司法部案件资料。
11. 《中华人民共和国个人信息保护法》《中华人民共和国数据安全法》《网络数据安全管理条例》《中华人民共和国网络安全法》
(2025年修改)。
12. 《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》及配套国家标准。
13. Regulation (EU) 2016/679(GDPR);SCHUFA Holding案相关欧盟法院判决。
14. Regulation (EU) 2024/1689(AI Act)及欧盟委员会实施时间表、服务台资料。
15. Federal Trade Commission Act Section 5及FTC隐私、数据安全执法资料。
16. 《中华人民共和国消费者权益保护法》《中华人民共和国电子商务法》《中华人民共和国民法典》合同、侵权及代理规则。
17. 《个人信息保护合规审计管理办法》及附件《个人信息保护合规审计指引》;GB/T 46903—2025《数据安全技术 个人信息保护合规审计要求》。
18. 《促进和规范数据跨境流动规定》及国家网信部门相关解释材料。
19. Google Play关于AccessibilityService API使用的开发者政策;FTC DesignerWare案及美国自动化访问相关案例资料。