AI出海欧盟:不同业务模式的法律责任分析
AI出海欧盟:不同业务模式的法律责任分析
对于计划进入欧盟市场的AI企业而言,合规已不再是单一的数据保护问题,而是贯穿模型研发、系统部署、产品交付、持续运营的全链条治理命题。与此同时,AI产业演化出基础模型提供、API开放平台、API调用集成、开源模型二次开发、RAG知识增强、Agent智能体、AI SaaS、终端智能等多元商业模式。不同模式在技术实现路径上存在差异,在欧盟法律框架下对应的法律角色与责任承担方式也截然不同。为此,本文将从欧盟人工智能监管体系的整体框架切入,逐一分析主流AI业务模式的法律定位与核心义务,为中国AI企业出海欧盟提供体系化的合规思路。[1]
一、欧盟人工智能监管体系
实践中部分企业存在一种认知偏差,即认为AI出海欧盟的合规工作等同于AI Act合规。事实上,AI业务在欧盟市场往往同时受到多部法规的并行调整,它们从不同维度规范AI产品与服务的研发、投放与使用。AI Act固然是人工智能治理的核心立法,但绝非唯一的合规依据。正确理解各法规之间的适用关系,是企业开展欧盟业务的首要前提。
(一)AI Act:欧盟人工智能治理的核心制度
AI Act确立了基于风险的分级监管框架,将AI系统划分为不可接受风险、高风险、有限风险与最低风险四个层级,并针对通用人工智能模型(General-Purpose AI Models,GPAI)设置了专门规制章节。该法重点规范AI系统的设计、开发、投放市场和投入使用全过程,是整个人工智能监管体系的主干。
具体而言,AI Act的核心制度包括:一是风险分级机制,对不可接受风险的AI系统予以禁止,对高风险AI系统施加强制性合格评定与持续合规义务,对有限风险AI系统施加透明度要求,对最低风险AI系统原则上不作强制约束;二是通用人工智能模型专章,区分普通GPAI模型与具有系统性风险的GPAI模型,分别设定技术文档、版权政策、模型透明度、系统性风险管理等差异化义务;三是全链条责任机制,覆盖提供者、部署者、进口商、分销商、授权代表等价值链各环节主体,确保监管无死角。
随着AI Act逐步进入实施阶段,欧盟委员会、AI Office及相关机构陆续发布了《关于禁止性AI实践的指南》《通用人工智能模型指南》《GPAI行为准则》等配套实施文件。企业除遵守AI Act规定外,还应持续关注上述配套规则及行业标准的发展。
(二)GDPR:个人数据处理的基础规则
GDPR仍是所有涉及个人数据处理的AI业务必须遵守的基础性规则。无论是对话式AI、智能客服、AI办公助手还是智能终端设备,只要处理欧盟境内自然人的个人数据,就必须满足GDPR关于合法性基础、数据最小化、存储期限限制、透明度、自动化决策、数据主体权利、跨境数据传输以及数据泄露通知等一系列要求。
值得注意的是,AI Act与GDPR并非相互替代关系,而是并行适用。AI Act第10条明确要求高风险AI系统的数据治理符合GDPR规定,而GDPR下的数据保护影响评估(DPIA)与AI Act下的基本权利影响评估也存在制度衔接空间。对于处理大量个人数据的AI应用而言,GDPR合规往往是比AI Act更早触发、更频繁面临执法的合规领域。
(三)《数据法案》:联网产品数据共享的刚性约束
《数据法案》(Data Act)于2024年1月生效,主要影响搭载数字功能的联网产品与相关服务。对于AI机器人、智能汽车、智能家居、工业设备等终端产品,Data Act要求产品运行过程中产生的数据原则上向用户开放,并允许用户授权第三方访问相关数据。该法既覆盖个人数据也覆盖非个人数据,与GDPR形成互补,即涉及个人数据时优先适用 GDPR,而非个人数据的访问与共享则主要受Data Act调整。
对于AI终端产品制造商而言,Data Act意味着必须在产品设计阶段就考虑数据接口、访问权限与互操作性,确保用户能够获取产品生成的数据并授权第三方使用。这一要求直接影响AI终端产品的架构设计与商业模式。
(四)《网络韧性法案》:数字产品的安全基线
《网络韧性法案》(CRA)于2024年底生效,要求所有具有数字功能的产品满足网络安全要求,涵盖漏洞管理、安全更新、软件维护周期、事件报告等义务。除汽车、医疗设备、航空航天等已有专门安全立法的领域外,几乎所有搭载AI功能的电子终端产品、嵌入式系统都将纳入CRA的监管范畴。
CRA与AI Act在网络安全要求上具有明显协同关系。企业符合CRA关于漏洞管理、安全更新、事件响应等要求,有助于满足AI Act关于网络安全和稳健性的部分要求。对于AI终端产品而言,CRA设定了产品进入欧盟市场的安全准入门槛,其重要性不亚于AI Act。
(五)其他配套法规的协同适用
除上述核心立法外,AI企业还可能受到多维度法律规则的共同调整:
1.产品安全与责任法规:《通用产品安全条例》(GPSR)、《产品责任指令》以及各行业专门产品安全法规,对作为物理产品组成部分的AI系统施加安全要求与损害赔偿责任;
2.消费者保护法:《消费者权利指令》《不公平商业行为指令》等,规范面向消费者的AI服务,禁止误导性AI交互、隐藏式自动化决策等行为;
3.数字服务法规:《数字服务法》(DSA)对作为中介服务的AI平台施加内容治理与透明度义务;
4.知识产权规则:版权法对训练数据来源、生成内容输出的规制,以及开源许可证对模型分发与二次开发的约束。
二、AI Act合规关键:识别在价值链中的法律角色
AI价值链通常涵盖基础模型研发、模型能力开放、系统集成开发、行业应用部署以及终端使用等多个环节。AI Act围绕这一价值链建立了完整的法律角色体系,主要包括:
1.提供者(Provider):指开发AI系统/模型或以自身名义/商标将AI系统/模型投放市场或投入服务的自然人或法人。此外,AI Act第25条还规定了角色转换规则,即在特定情形下部署者及产品制造商会被认定为提供者。提供者是AI Act下义务最重的主体,需承担风险管理、数据治理、技术文档、合格评定、上市后监测等全生命周期责任。
2.部署者(Deployer):指在其权限下使用AI系统的自然人或法人、公共机构或其他实体。部署者的义务相对较轻,主要包括按照使用说明适当使用、实施人类监督、开展基本权利影响评估等。
3.通用人工智能模型提供者(GPAI Model Provider):指开发通用人工智能模型的主体。该角色属于提供者的一种,但因其作为底层能力的特殊性,故通过第五章予以专门规定,包括模型文档、版权政策、透明度、系统性风险评估等。
4.进口商(Importer):指在欧盟境内设立、将第三国制造的AI系统投放欧盟市场的自然人或法人。进口商需核实提供者已完成合格评定程序,并在产品上标注自身信息。
5.分销商(Distributor):指在供应链中提供AI系统供投放市场或投入服务的主体。分销商负有核实合规标识、传递严重事件信息等义务。
6.授权代表(Authorised Representative):指非欧盟提供者在欧盟境内指定的代表,负责接收监管机构通知、配合合规检查等。
准确识别法律角色是AI合规的起点。不同角色对应的义务范围与责任强度差异显著:提供者需承担从研发到上市后监测的全链条义务,合规成本最高;部署者仅承担使用阶段的有限义务;GPAI模型提供者则负有专门的模型治理责任。
然而,由于AI业务模式的不断迭代,提供者与部署者之间的角色边界出现了模糊,因此需要从能力来源、系统控制程度以及市场投放方式三个维度进行综合判断。
其中,能力来源用于识别判断第三方是否可能构成提供者角色:若AI能力来源于企业自研模型或者对开源模型的部署及二次开发,则该企业将被认定为提供者。若AI能力来源于对闭源API的调用,则需要进一步结合企业对系统的控制程度以及市场投放方式进行综合判断。
一般而言,企业对AI系统的设计、功能、安全机制、使用范围的控制越深,被认定为提供者的可能性越高。例如,仅在内部工作流中调用现成API工具的企业,更接近部署者;若对基础模型进行重新训练、改变模型用途或核心能力、修改安全机制等,则因构成“重大修改”而被无可争议地认定为提供者;在没有明确构成“重大修改”的情况下,通过设计完整业务逻辑、Prompt工程、权限体系、多工具编排并形成独立产品对外提供的企业,亦有较大可能被认定为提供者。
除对AI系统的控制程度这一判断维度之外,企业是否以自身品牌向市场提供产品或服务,也是区分提供者与部署者的重要标志。以自身名义将AI产品投放欧盟市场,或者将AI系统嵌入物理产品中并以自身品牌销售的企业,通常会被认定为提供者。
三、不同业务模式面临的主要法律问题
基于上述判断框架,以下逐一分析当前主流AI业务模式的法律角色定位及其核心法律问题。
(一)基础模型提供模式
自主研发并对外提供基础模型的企业,通常属于GPAI模型提供者,需重点遵守AI Act第五章关于通用人工智能模型的专门规定。若企业同时基于自研模型开发并提供具体AI应用,则还兼具AI系统提供者身份。该模式下的核心法律问题包括:
1.GPAI模型的分级合规义务。AI Act将通用人工智能模型区分为普通GPAI与具有系统性风险的GPAI(GPAISR)。后者以训练算力超过10²⁵次浮点运算为推定标准,需承担更严格的系统性风险管理义务,包括模型评估、对抗性测试、风险缓解措施以及向欧盟AI办公室报告等。
2.技术文档与透明度义务。GPAI提供者需编制模型技术文档,记录模型架构、训练数据概况、能力边界、局限性、能耗等信息,并向下游提供者提供必要信息以协助其履行合规义务。模型投放市场时,还需公开模型卡等基本信息。
3.版权合规政策。AI Act第53条明确要求GPAI提供者制定并实施符合欧盟版权法要求的合规政策。具体包括:尊重权利保留机制、遵守爬虫协议、建立版权投诉处理机制、采取措施防止生成侵权内容等。训练数据的版权合法性是当前基础模型企业面临的最大法律风险之一。
4.生成内容透明度要求。对于生成式AI系统,AI Act要求履行相应透明度义务,例如在适用情形下确保公众知悉内容由AI生成、对深度伪造内容进行标识等。
此外,基础模型企业还需关注训练数据中的个人数据处理合规、开源组件合规、出口管制等问题。
(二)API开放平台模式
API开放平台向开发者提供模型能力接口,而非最终AI应用。该模式需区分两类不同情形:
第一类:基础模型API,如文本生成接口、向量嵌入接口等,本质是将GPAI模型能力以API形式开放。此类API提供者通常属于GPAI模型提供者,承担GPAI相关义务。值得注意的是,即便API提供者及其模型、服务器等均位于欧盟境外,但若其AI能力输出影响到欧盟,仍会基于AI Act的域外适用条款而被纳入管辖。
第二类:特定功能AI接口,如OCR识别、人脸识别、风险评分、语音合成等具有明确用途的AI服务接口。此类接口若属于高风险AI系统范畴,则提供者构成高风险AI系统提供者,需履行对应高风险系统的全部义务。因此,对于此类AI系统,核心在于结合具体的功能判定风险等级,进一步去识别自身的合规义务内容。
除上述整体性的义务范围确定之外,API开放平台模式有其独特的法律问题,包括:
1.上下游信息传递义务。API提供者不仅需履行自身合规义务,还需向下游开发者提供充分的技术文档、使用说明、安全限制、性能参数与透明度信息,以便下游开发者能够履行其AI Act义务。这是AI Act价值链责任分配的核心要求。
2.地域限制与法定责任的关系。实践中部分API服务商在服务协议中设置地域限制条款,禁止开发者将API用于欧盟市场。需要明确的是,合同约定不能免除法定义务。若API提供者持续面向欧盟市场提供模型能力,或者实际上参与AI系统设计、控制及市场投放,则仍可能依据AI Act承担相应责任。
3.高风险场景的边界识别。API本身是中立的技术工具,但下游开发者可能将其用于高风险场景。API提供者需在服务条款中明确禁止用途,并建立合理的使用监控机制,避免因下游违规使用而承担连带责任。
(三)API调用模式
调用第三方模型API是当前最普遍的商业模式。需要特别澄清的是,调用API并不当然意味着企业只是技术使用者或部署者。法律角色的认定,取决于企业在API基础上做了什么、以何种方式向市场提供。相关问题在前文有关提供者和部署者的边界问题上已有讨论,故不再赘述。除准确判断自身的法律角色进而确定合规义务范围之外,在API调用模式下,企业还需要重点关注以下两个问题:
1.高风险场景的额外义务。如果调用API构建的AI系统用于招聘、教育、金融信贷、医疗辅助等高风险领域,且落入AI Act附件三列举的高风险用例范围,则无论底层模型来自何方,系统提供者都需履行高风险AI系统的全套合规要求,包括风险管理、数据治理、人类监督、透明度、技术文档、合格评定等。
2.供应链合规责任。调用第三方API并不免除企业的合规责任。企业需对上游API提供商进行合规尽调,确认其模型能力的合法性与合规性,并在合同中明确双方的责任边界。若上游API存在合规缺陷,下游系统提供者仍需首先对监管机构和用户承担责任,再依合同向供方追偿。
(四)开源模型模式
开源模型已成为中国AI企业出海的重要技术路径。但需要特别指出的是,企业并不会仅仅因开源这个动作本身就自动免除AI Act项下的全部法律责任;恰恰相反,AI Act下的开源豁免是有限的豁免,主要包括透明度与模型文档中的部分要求。另外,若企业要取得豁免,还需同时满足三个条件:模型以自由开源许可证发布、模型参数与架构公开可得、模型未被商业化。带有商业使用限制、非完全开源的“伪开源”模型不适用豁免。此外,对具有系统性风险的GPAI模型,即使采用开源方式发布,也不能完全适用开源豁免。
需要注意的是,开源豁免主要针对模型提供者层面,并不意味着使用开源模型构建商业AI系统即可免于监管。企业部署Llama、Qwen、Mistral等开源模型后,若进一步构建AI客服、Agent或行业应用并对外提供,通常仍会成为AI系统提供者,承担相应的合规义务。与此同时,企业还需严格遵守对应许可证条款。主流开源模型许可证如Apache 2.0、MIT、Llama社区许可等,在分发要求、修改声明、商业使用、专利授权等方面存在差异。
(五)AI SaaS、RAG与Agent模式
AI SaaS、RAG知识增强以及Agent智能体,是当前增长最快的商业模式。这三类模式的共同特点在于,企业不仅调用基础模型能力,而且深度设计整个AI系统的运行逻辑与业务流程。从法律角色认定来看,大多数AI SaaS、RAG 及Agent产品有较大概率被认定为AI系统提供者。
鉴于RAG与Agent技术正被广泛应用于法律、医疗、金融、教育、人力资源等领域。若应用场景落入AI Act规定的高风险用例清单,则需履行高风险AI系统的特别义务。其中,AI Act要求高风险AI系统必须保持有效的人类监督,而高度自主的Agent可能与人类监督要求产生冲突。因此,企业在设计Agent时,需确保人类可介入、可干预、可终止Agent的运行。
在数据保护及版权合规方面,RAG系统涉及大量私有知识库数据,若知识库包含个人数据,需满足GDPR要求。对于其中涉及到版权的内容,还需要考虑版权侵权风险。Agent在执行任务过程中也可能自主采集、处理、传递数据,其数据处理行为的合法性基础、透明度保障亦需专门设计。
(六)模型微调模式
模型微调是AI企业常用的技术手段,但微调并不会自动使企业成为新的提供者。AI Act采用“重大修改(Substantial Modification)”作为判断标准。根据AI Act第3条定义,“重大修改”是指 AI 系统投放市场后发生的、在提供者最初合格性评估中未预见或未计划的修改,且该修改影响系统对AI Act要求的合规性,或导致系统预期用途发生改变。具体到模型微调场景,判断是否构成重大修改需综合考量:(1)微调的规模与深度;(2)是否改变模型的核心能力、预期用途或安全边界;(3)是否影响原模型合规评估的结论。
若仅调整少量参数,不改变模型基础架构与核心能力,通常不构成重大修改,企业不因此成为新的模型提供者;若基于领域数据进行较大规模参数更新,显著改变模型在特定领域的表现,则需具体评估是否改变了系统的预期用途或安全特性;若使用大量数据进行全量或接近全量的继续训练,实质性改变模型能力,则很可能构成重大修改。
因此,企业在进行模型微调前,应评估微调是否可能触发新的提供者义务。对于构成重大修改的情形,需重新开展合规评估与合格评定程序。建议在产品设计阶段就建立微调合规评估流程,避免因技术迭代导致合规失效。
(七)白牌/OEM及AI终端模式
白牌销售、OEM合作以及AI终端产品,是AI商业化的重要方向。这类模式的法律关系更为复杂,往往同时触发多部法规的适用。
根据AI Act规定,以自身品牌或商标将AI系统投放市场的主体,承担提供者责任。这意味着,即使AI系统的技术开发由OEM厂商完成,品牌方仍将被认定为提供者,承担首要合规责任。OEM厂商与品牌方之间的责任划分可通过合同约定,但不能对抗监管机构与第三方。
除供应链维度的责任分配之外,在渠道销售维度,对于非欧盟企业直接向欧盟市场销售AI终端产品的情形,AI Act要求指定欧盟境内的授权代表。若通过欧盟进口商或分销商销售,则进口商与分销商也需履行各自的法定义务,包括核实合规文件、传递严重事件信息、配合监管等。
除AI Act的合规要求之外,将AI系统嵌入物理终端产品(如智能音箱、机器人、智能汽车、工业设备等),还会涉及到其他维度的监管,包括CRA(规范产品的网络安全与韧性)、Data Act(规范产品生成数据的访问与共享)、GPSR/行业产品安全法规(规范产品整体安全)、产品责任制度(规范缺陷产品造成的损害赔偿)。这意味着AI终端产品的合规复杂度远高于纯软件服务,企业需要建立跨部门的合规团队,协同处理AI、网络安全、数据、产品安全等多领域合规要求。
四、结语
欧盟已经建立起一套系统、复杂而又严格的人工智能监管体系。这一体系以AI Act为核心,联动数据保护、网络安全、产品安全、消费者保护、知识产权等多领域立法,形成了覆盖AI全价值链、全生命周期的综合监管格局。尽管部分规则距离最终落地还有段时日,并且欧盟当局也在反思和优化其监管规则体系,但从监管实践角度来看,目前仍有不少企业或业务模式被重点关注,并持续开展各维度的执法。因此,对于出海企业而言,仍然需要紧密跟进最新动向,在纷繁复杂的规则中找到合规重点,研判和治理业务的核心风险。
从整体监管导向和思路而言,欧盟采取极为务实的风险监管路径。不同业务模式所面临的监管风险差异显著。企业应结合自身产品特点与市场策略,选择合适的欧盟市场进入路径。对于合规能力尚在建设中的企业,可考虑从低风险业务切入,如以部署者身份提供内部解决方案、最低风险AI工具等,逐步积累合规经验。对于具备较强合规能力的企业,可布局高附加值的高风险AI系统,通过合规优势构建市场壁垒。此外,企业还应关注欧盟各成员国的执法差异与监管沙盒机制,在合规前提下充分利用试点政策加速市场进入。
[注释]
[1] 本文撰写得到了某大厂国际法务周素华的支持,特表示感谢。
[参考文献]
[1] Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts[J/OL]. Official Journal of the European Union, L 2024/1689, 12 July 2024.
[2] Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation)[J/OL]. Official Journal of the European Union, L 119, 4 May 2016.
[3] Regulation (EU) 2023/2854 of the European Parliament and of the Council of 13 December 2023 on harmonised rules on fair access to and use of data and amending Regulation (EU) 2017/2394 and Directive (EU) 2020/1828 (Data Act)[J/OL]. Official Journal of the European Union, L 2023/2854, 22 December 2023.
[4] Regulation (EU) 2024/2847 of the European Parliament and of the Council of 23 October 2024 on horizontal cybersecurity requirements for products with digital elements and amending Regulations (EU) No 168/2013 and (EU) 2019/1020 and Directive (EU) 2020/1828 (Cyber Resilience Act)[J/OL]. Official Journal of the European Union, L 2024/2847, 20 November 2024.
[5] Regulation (EU) 2023/988 of the European Parliament and of the Council of 10 May 2023 on general product safety and amending Regulation (EU) No 1025/2012 and Directive (EU) 2020/1828 and repealing Directive 2001/95/EC and Council Directive 87/357/EEC (General Product Safety Regulation)[J/OL]. Official Journal of the European Union, L 135, 23 May 2023.
[6] Directive (EU) 2024/2853 of the European Parliament and of the Council of 23 October 2024 on liability for defective products and repealing Council Directive 85/374/EEC[J/OL]. Official Journal of the European Union, L 2024/2853, 18 November 2024.
[7] Directive 2011/83/EU of the European Parliament and of the Council of 25 October 2011 on consumer rights[J/OL]. Official Journal of the European Union, L 304, 22 November 2011.
[8] Directive 2005/29/EC of the European Parliament and of the Council of 11 May 2005 concerning unfair business-to-consumer commercial practices in the internal market[J/OL]. Official Journal of the European Union, L 149, 11 June 2005.
[9] Regulation (EU) 2022/2065 of the European Parliament and of the Council of 19 October 2022 on a Single Market For Digital Services and amending Directive 2000/31/EC (Digital Services Act)[J/OL]. Official Journal of the European Union, L 277, 27 October 2022.
[10] Directive (EU) 2019/790 of the European Parliament and of the Council of 17 April 2019 on copyright and related rights in the Digital Single Market[J/OL]. Official Journal of the European Union, L 130, 17 May 2019.