生成式视频模型的法律风险与全球监管趋势
生成式视频模型的法律风险与全球监管趋势
引 言
2026年5月,中央网信办部署指导网站平台规范短视频内容标注,要求网站平台将内容标注设置为短视频发布的必经环节。发布者应当从六类“必选标签”中选择一项,其中包括“含有AI生成内容”。网站平台需对新增短视频标注情况进行巡检,同时对未标注或者标注不正确的存量视频进行补标或纠正。[1]
上述标注机制虽可使用户知悉相关内容是否由AI生成,但标注本身既不能反映人物参考图是否已取得授权,也不能说明模型在生成过程中是否使用了他人的面部特征。因此,“含有AI生成内容”标签本身并不能替代肖像权、著作权等许可。以一部AI短剧为例,其自脚本输入模型,经角色生成、配音与剪辑,至平台上线,各环节的审查重点均可能随之变化。要厘清前述风险,需先明确视频模型的技术运行逻辑。
一、生成式视频模型的技术特征
(一)视频生成与图片生成的技术差异
图片生成主要处理单一画面的空间关系,而视频生成还需处理时间维度,即人物外貌、场景及物体位置能否在镜头切换后保持连续,以及动作与音画是否协调。因此,视频扩散模型研究常常将时序连贯列为核心任务之一。
此外,生成式视频的输入已不限于提示词。人物照片、动作参考及既有视频等均可能参与内容生成。模型未对原图直接进行复制,并不等同于未处理与自然人相关的信息;输出内容发生变化,亦不当然排除著作权法上的实质性相似认定。
(二)生成式视频的生产环节
一部AI短剧通常会经过以下环节:
上述四个环节彼此衔接,但需要逐一审查。训练数据合法,并不当然意味着具体输出必然合规;模型服务允许商业使用,亦不当然意味着用户已取得相关第三方的肖像或作品授权。
二、生成式视频模型的法律风险分布
(一)训练阶段:模型使用作品与个人信息的合法性
《生成式人工智能服务管理暂行办法》(以下简称“《暂行办法》”)第七条规定,服务提供者应当使用具有合法来源的数据与基础模型,不得侵害他人知识产权;涉及个人信息的,应当依法取得同意或者符合其他法定情形。《互联网信息服务深度合成管理规定》(以下简称“《深度合成管理规定》”)第十四条第一款亦要求,训练数据包含个人信息的,应当遵守个人信息保护相关规则。
《暂行办法》第二条同时明确,研发、应用生成式人工智能技术但未向境内公众提供服务的,不适用该办法。但须注意,该条的排除效力仅及于《暂行办法》本身,其内部研发豁免并不免除《中华人民共和国著作权法》(以下简称“《著作权法》”)《中华人民共和国个人信息保护法》(以下简称“《个人信息保护法》”)等上位法规定的义务。换言之,内部研发虽可不受《暂行办法》的直接规制,但训练环节对他人作品与个人信息的使用,仍须依据《著作权法》《个人信息保护法》另行判断。
(二)输入阶段:“用户主动上传”不构成完整免责事由
生成式视频模型中使用的人物参考图、原视频与声音等,往往由业务人员、合作方或用户上传。实践中常见的一种误区,是将“上传者承诺不侵权”或“用户主动上传”直接等同于所用素材已经合法。
首先,公开信息同样受到个人信息保护相关规则约束。《个人信息保护法》第二十七条规定,在合理范围内处理已合法公开的个人信息应予允许;但个人明确拒绝,或者处理行为对其个人权益具有重大影响的,应适用更为严格的规则。换言之,信息公开只是降低了部分处理门槛,并未使相关个人信息脱离法律保护。
其次,人脸、人声等可能触发敏感个人信息和深度合成专门规则。《个人信息保护法》第二十八条至第三十条进一步规定,处理生物识别等敏感个人信息应当具有特定目的与充分必要性,并采取严格保护措施;基于同意处理的,应当取得个人的单独同意,并履行相应告知义务。至于普通照片是否构成敏感个人信息,需结合其可识别性、是否提取生物识别特征以及处理目的等因素综合判断。若相关工具对人脸进行识别、特征提取、替换或融合,其法律风险已不同于一般的图片编辑。《深度合成管理规定》第十四条第二款及第十五条要求,深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示使用者依法告知被编辑的个人,并取得其单独同意;提供生成或者编辑人脸、人声等生物识别信息的模型、模板等工具的,还应依法开展安全评估。
(三)输出阶段:自然人形象的可识别性是判断侵权的关键
就人物形象而言,《中华人民共和国民法典》(以下简称“《民法典》”)第一千零一十八条规定,肖像是通过影像、雕塑、绘画等方式在一定载体上所反映的特定自然人可以被识别的外部形象。《民法典》第一千零一十九条禁止以丑化、污损或者利用信息技术手段伪造等方式侵害他人肖像权,并原则上禁止未经同意制作、使用、公开他人肖像。因此,AI生成的人脸即便与真人存在局部差异,亦不当然排除肖像权侵害的可能。判断的关键仍在于,公众能否结合面部特征、妆造、声音、姓名、角色介绍及传播语境,识别出特定自然人。
在肖像权层面,AI换脸使用他人肖像可能构成侵权。最高人民法院于2025年6月12日发布的利用网络、信息技术侵害人格权典型案例中,某软件运营公司开发运营一款软件,供付费会员使用他人的照片进行面部替换,生成面部为该他人的作品。该公司未经彭某某同意,自行在软件中上架彭某某的肖像供会员“换脸”并牟利。法院认为,某软件运营公司未经彭某某授权同意,以营利为目的使用含有彭某某肖像的照片、视频,侵害了彭某某的肖像权,判令赔礼道歉并赔偿损失3,000元。[2]该案表明,以AI换脸方式使用他人肖像,并不因改换脸行为系“由用户操作”或“技术自动生成”而当然免除侵权责任,判断的关键仍在于最终生成的相关形象是否可使公众识别出特定自然人。
在著作权层面,对AI生成内容进行局部修改,亦不当然形成新作品。在宋某诉南京某科技公司著作权纠纷一案中,被告运营“AI视频换脸”微信小程序,将涉案古风短视频作为付费换脸模板供用户使用并获利。法院认定该短视频在内容编排、镜头选取和拍摄角度上具有独创性,属受著作权法保护的视听作品;经AI算法局部替换合成后的视频与之构成实质性相似,既非独立改编,亦不属于合理使用,遂认定被告侵害信息网络传播权并判令赔偿经济损失。[3]
可见,制作方不应仅以“是否由AI生成”作为判断标准,而应核验人物是否可被识别、原作品的表达是否被保留,以及输出是否进入商业传播等因素。
(四)传播阶段:平台的审核义务与责任承担
《人工智能生成合成内容标识办法》已于2025年9月1日起施行,明确服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识,在提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识;应当在生成合成内容的文件元数据中添加隐式标识,隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息;应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容,并提示用户仔细阅读并理解相关的标识管理要求。[4]
同步实施的《GB 45438-2025〈网络安全技术 人工智能生成合成内容标识方法〉》,则规定了不同类型内容的具体标识方法。[5]
标识制度解决的是内容身份与来源追溯问题,授权制度解决的则是第三方权利问题。对于已经侵害肖像、个人信息或者著作权的生成视频,添加AI标签并不能消除其侵权性质;而内容本身虽不构成侵权,亦仍可能因未按规定进行标识而面临合规风险。
从平台方角度而言,平台在收到投诉后立即删除相关内容并不当然免除其责任。平台是否承担责任,需结合其对内容的控制能力、是否参与模板选择与生成、是否直接收费或分成、侵权迹象是否明显,以及收到通知后的处置是否及时等因素综合判断。
三、生成式视频模型的全球监管趋势
(一)欧盟:以透明度义务为核心的系统性规制
欧盟《人工智能法》(Regulation (EU) 2024/1689,以下简称“EU AI Act”)为具有广泛约束力的人工智能综合性立法。就生成式视频而言,EU AI Act第50条确立了由人工智能提供者(provider)与部署者(deployer)分担的四项透明度义务,其适用范围远超单纯的标签要求。[6]
提供者负有交互告知义务和机器可读标记义务。第50条第1款要求与自然人交互的AI系统(如聊天机器人、虚拟助手)提供者确保系统在设计上使相对方知悉其正在与AI系统交互,除非该事实从交互情境中即可显而易见。第50条第2款要求生成合成内容(文本、图像、音频或视频)的AI系统提供者确保其输出以机器可读格式加以标记,并使该标记可被检测为人工生成或操纵的内容。对于仅执行标准编辑辅助功能、未实质性改变输入数据或其语义的AI系统,该项义务不予适用。
部署者负有情绪、生物特征告知义务以及deepfake[7]、公共利益文本披露义务。第50条第3款要求使用AI系统检测自然人情绪或意图、或基于种族、政治观点、宗教信仰、性取向等敏感属性进行生物特征分类的部署者,告知受其影响的自然人。第50条第4款要求部署使用AI系统生成或操纵构成deepfake的图像、音频或视频内容的主体,须向受众披露该内容系人工生成或操纵。公开发布涉及公共利益事项的AI生成文本时亦同。
根据欧盟委员会的说明,第50条透明度义务自2026年8月2日起适用。[8]对于面向欧盟市场提供生成式视频服务的企业而言,模型输出端需嵌入机器可读水印或元数据,用户界面端需对deepfake类视频添加清晰可感知的披露标识等。
(二)美国:联邦专项立法与司法实践
美国目前不存在类似于EU AI Act的统一联邦AI法令,亦无覆盖一般生成式视频的人格权联邦制度。
2025年5月19日,美国总统签署《TAKE IT DOWN Act》(全称《Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act》),系联邦层面首部专门针对AI深度伪造危害的法律。[9]该法将故意发布他人非自愿私密影像(含AI生成的“digital forgeries”)规定为联邦刑事犯罪,针对成年人受害者的法定刑最高可达2年监禁,涉及未成年人者最高可达3年。
同时,该法建立了“通知—删除”机制(“notice-and-removal provisions”),即自2026年5月19日起,受规制的网络服务平台在接到受害者通知后,须于48小时内删除相关内容,由联邦贸易委员会(Federal Trade Commission,简称“FTC”)负责执法。
值得注意的是,《TAKE IT DOWN Act》的规制范围限于非自愿私密影像这一特定场景,并未创设一般性的数字替身权利(digital replica right)或统一的肖像权联邦保护。此外,美国版权局虽于2024年7月发布报告建议建立联邦层面的数字复制品权利,但该建议尚未转化为立法。[10]
在联邦司法层面,AI训练数据的版权合法性正处于快速演变期。如在两起备受关注的集体诉讼中(Kadrey v. Meta Platforms案[11]与Bartz v. Anthropic案[12]),法院均认为,将受版权保护的数据用于AI模型训练在一定程度上可能构成“合理使用”(fair use),理由在于AI训练被视为高度转化性使用(transformative use),且原告未能证明训练行为直接替代了原作品市场。然而,在Bartz v. Anthropic案中,法院同时认定Anthropic从盗版网站获取书籍的行为本身构成版权侵权。该案最终以约15亿美元和解金了结。上述判例表明,美国司法实践倾向于在保护版权的同时为AI训练保留空间,但获取途径的合法性仍是关键变量。
(三)韩国:强制透明化与高风险AI分类监管
韩国《人工智能发展及建立信任基础基本法》(“《人工智能基本法》”)于2026年1月22日正式生效[13],系亚太地区最早实施的综合性AI成文法之一。该法的核心特征包括:
(1)生成式AI强制透明化。向用户提供高影响AI或生成式AI服务的企业,须事先告知用户AI使用事实;对生成式AI的输出,须标明其由AI生成。其中,deepfake等难以与真实区分的虚拟声音、图像、视频,须以用户可明确识别的方式告知或标记其由AI生成;艺术、创作表达可在不妨碍欣赏的范围内标注。(《人工智能基本法》第31条)
(2)高影响AI分类监管。对用于能源、饮用水、医疗、医疗器械、核能、犯罪侦查生物识别、个人重要权利义务判断(就业、贷款审查等)、交通、公共决策、教育评估等10类重点领域且可能对人的生命、身体安全或基本权利造成重大影响的“高影响 AI”,实施全生命周期监管。运营者须建立风险管理体系、说明方案、用户保护方案,并配备人工监督。(《人工智能基本法》第34条)
(3)境外企业境内代理人制度。符合全球年营收≥1万亿韩元、或在韩AI相关年销售额≥100亿韩元、或在韩日活≥100万等条件之一的境外AI企业,须指定韩国境内代理人承接合规义务。(《人工智能基本法》第36条)
结 语
生成式视频将原本分散于编剧、拍摄、表演、配音与后期等环节的工作,压缩至同一套工具链之中,但相应的法律关系并未随之简化。模型服务允许商业使用,并不等同于第三方权利已经清理完毕;输出经过重新生成,亦不当然意味着原作品与人格权益不再需要审查。恰恰相反,由于生成过程的"黑箱"特性与多源素材的叠加效应,权利使用边界反而更加模糊,企业若仅以"技术中立"或"已获模型授权"为由主张免责,在法律上难以成立。
面对上述挑战,企业宜从三个层面构建合规体系:在素材端,建立涵盖图像、视频、声音、音乐等素材的来源台账,区分权利来源,并将肖像、声音、表演等授权事项逐项拆分、按场景确认,避免以概括授权替代真实使用意图;在生成端,针对真人参考图、公众人物、未成年人及高度逼真人像设置分级审核,同时留存完整的提示词、参考图、模型版本、生成参数及修改记录,以备追溯与举证;在产品与发行端,于内容发布环节嵌入隐式与显式标识,建立便捷的投诉处理通道,并根据目标市场的适用法规,明确各法域在训练数据、内容标识、deepfake技术、肖像/声音权及平台责任方面的差异化要求,避免以单一法域的合规清单替代全局判断。唯有将法律与技术双重考量嵌入产品设计与运营决策的各个节点,方能在这一快速演进的领域中实现稳健、可持续的商业化落地。
[注]
[1] 2026年5月12日,中央网络安全和信息化委员会办公室发布《规范短视频内容标注答记者》,参见:https://www.cac.gov.cn/2026-05/12/c_1780328273108117.htm。
[2] 最高人民法院2025年6月12日发布《依法惩治人被“挂”、脸被“卖”……最高法发布利用网络、信息技术侵害人格权典型案例》,其中案例三为“彭某某诉某软件运营公司肖像权纠纷案”。该案明确,擅用他人肖像供用户“换脸”牟利的,应承担肖像权侵权责任。参见:https://www.court.gov.cn/zixun/xiangqing/467631.html。
[3] 人民政协报2025年11月20日发布《汉服模特遭遇“AI换脸”维权难?》,该案为南京市江北新区人民法院审理的“宋某诉南京某科技公司著作权纠纷案”,入选中国法院2025年度案例。法院认定AI换脸模板保留原视频实质性相似、构成信息网络传播权侵权,二审维持原判。参见:https://www.rmzxw.com.cn/c/2025-11-20/3822539.shtml。
[4] 2025年3月14日,国家互联网信息办公室发布《〈人工智能生成合成内容标识办法〉答记者问》,参见:https://www.cac.gov.cn/2025-03/14/c_1743654685896173.htm。
[5] 参见:https://openstd.samr.gov.cn/bzgk/std/newGbInfo?hcno=F32EA2A561F1886CD8D606513512D547。
[6] 参见:https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-50。
[7] 根据EU AI Act第3条第(60)项的定义,“deepfake”是指由人工智能生成或操纵的图像、音频或视频内容,这些内容与真实存在的人、物体、地点、实体或事件相似,且会使人错误地认为其真实或可信。参见:https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-3。
[8] 参见:https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act。
[9] 参见:https://www.congress.gov/crs-product/LSB11314。
[10] 参见:https://www.copyright.gov/newsnet/2024/1048.html。
[11] Kadrey v. Meta Platforms案,No. 3:23-cv-03417-VC (N.D. Cal.)。十三名作家(含 Richard Kadrey、Sarah Silverman 等)诉 Meta,指控其从Books3、LibGen等“影子图书馆”下载盗版书籍用于训练LLaMA系列大语言模型,构成未经许可的复制与版权侵权。2025年6月25日,Chhabria法官作出即席判决,认定Meta为训练而复制书籍具有高度转换性、且原告未能证明训练行为对原作品市场造成替代性损害,故训练使用构成合理使用;但涉及盗版获取及通过BitTorrent分发训练数据的指控仍留存后续审理。案卷与即席判决原文见 CourtListener:https://www.courtlistener.com/docket/67569326/kadrey-v-meta-platforms-inc/。
[12] Bartz v. Anthropic案,No. 3:24-cv-05417-WHA (N.D. Cal.)。作家Andrea Bartz等诉Anthropic,指控其从LibGen、PiLiMi等盗版来源下载数百万册书籍建立“中央数字图书馆”用于训练Claude大模型。2025年6月23日,Alsup法官作出标志性即席判决:以合法取得(含购买纸质书后数字化)的书籍训练模型具典型转换性、构成合理使用;但从盗版来源下载并永久留存构成侵权、不属于合理使用,相关盗版指控进入陪审团审理。2025年9月5日双方正式就盗版指控向法院提交约15亿美元和解协议,2026年7月20日获法院最终批准,系美国史上最大版权和解。案卷与即席判决原文见CourtListener:https://www.courtlistener.com/docket/69058235/bartz-v-anthropic-pbc/。
[13] 参见:https://www.law.go.kr/%EB%B2%95%EB%A0%B9/%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5%20%EB%B0%9C%EC%A0%84%EA%B3%BC%20%EC%8B%A0%EB%A2%B0%20%EA%B8%B0%EB%B0%98%20%EC%A1%B0%EC%84%B1%20%EB%93%B1%EC%97%90%20%EA%B4%80%ED%95%9C%20%EA%B8%B0%EB%B3%B8%EB%B2%95/(20676,20250121)。