人工智能与数字经济系列 | 一文带你了解人工智能生成合成内容标识要求的新变化
2024.10.23
|
作者：时萧楠、杨丹荷
|
来源：人工智能与数字经济行业委
1. 适用主体：网络信息服务提供者
根据办法第二条，办法适用的主体为符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者。此处有两个关键词可能已经引起了读者的注意：“网络”以及“服务提供者”：
A. 新增：通过互联网提供服务
目前，生成式人工智能相关的法律法规主要有如下：
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
但在《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》的适用范围尚存在模糊地带。《互联网信息服务深度合成管理规定》将“深度合成服务”描述为“应用深度合成技术提供互联网信息服务”，《生成式人工智能服务管理暂行办法》却并未提及“通过互联网提供服务”，而是进一步将本地化部署等人工智能服务方式也囊括其中，这一区别在实践层面产生了《生成式人工智能服务管理暂行办法》有别于《互联网信息服务深度合成管理规定》的立法意义。然而，有别于《生成式人工智能服务管理暂行办法》中使用的“生成式人工智能服务提供者”表述，办法使用了“网络服务提供者”表述，似乎在强调两则新规的适用主体仅为通过互联网提供服务的相关服务提供者。
B. 细化：服务提供者
有别于《互联网信息服务算法推荐管理规定》与《生成式人工智能服务管理暂行办法》均未进一步细分“服务提供者”的定义，《互联网信息服务深度合成管理规定》明确将“深度合成服务技术支持者”独立于“深度合成服务提供者”之外，并在后续算法备案流程中为其设定了不同的备案要求。
虽然具有舆论属性与社会动员能力的生成式人工智能算法应按照《互联网信息服务算法推荐管理规定》进行备案，但因生成式人工智能算法需与深度合成算法需共同选择“生成合成类”算法进行备案，导致虽然立法层面并未区分“生成式人工智能技术支持者”与“生成式人工智能服务提供者”，实操层面生成式人工智能服务提供者与深度合成服务提供者一样需要细分“服务提供者”和“技术支持者”，进而适用不同的具体备案要求（其中最为显著的区别即是服务提供者需提供关于服务标识的具体描述，而技术提供者无需提供）。
办法目前将适用范围仅限定为“网络信息服务提供者”，本所理解其实质上是从立法层面向生成式人工智能领域延伸了“服务提供者”与“技术支持者”的划分，明确大模型开发、深度合成算法研发等技术支持者无需履行相应的标识义务，而面向用户的服务提供者则需按照办法及相关强制性国家标准履行严格的标识义务。这一规定对进一步厘清人工智能服务提供各主体的义务范围有重要的指导意义。
2. 适用客体：人工智能生成合成内容
办法第三条明确表示，本办法所称“人工智能生成合成内容”是指“利用人工智能技术制作、生成、合成的文本、图片、音频、视频 等信息”，将利用生成式人工智能算法生成内容与利用人工智能进行深度合成的内容均囊括在适用客体之内，这一行为一定程度上解答了民众此前对生成式人工智能算法究竟应当按照《深度合成管理规定》第十七条的哪一款进行显性标识的问题，为生成式人工智能算法与深度合成算法提供了统一的标识方法指引。
3. 具体标识方法：显性标识与隐性标识
相较于此前的《深度合成管理办法》第十六条、第十七条以及TC260 出具的《网络安全标准实践指南—生成式人工智能服务内容标识方法》，本次发布的办法和国家强制标准对具体标识方法的显著变化有二：
A. 显性标识：对标识方法按照不同的内容类型进行了细化与变更
a. 细化
TC260 出具的《网络安全标准实践指南—生成式人工智能服务内容标识方法》（简称TC260指引）仅对交互场景、图片和音频三种场景进行了标识指引，而办法和国家强制标准却将生成合成内容划分为文本、图片、视频、音频、虚拟场景和交互场景等具体类型，并就不同类型建立了更详细的要求。
b. 变更
对提示文字的要求：两则新规删除了TC260指引要求的“提示文字应至少包含‘由人工智能生成’或‘由AI生成’等信息“的要求，改为要求各类内容的显示标识应同时包含“人工智能要素”和“生成合成要素”两方面内容，给了相关产品设计更广泛的空间。
对图片和视频的要求：两则新规将标识尺寸更新为“显式标识的文字高度应不低于画面最短边长度的5%”，与TC260指引此前的“所占面积应不低于画面的 0.3%或文字高度不低于 20 像素”有较大变化。同时，对于视频的标识位置，办法和国家强制标准新设了“一个强制，两个自愿”原则，即必须在视频起始画面添加显性标识，视频中间和结尾画面可自愿性添加显性标识。这一要求有别于TC260指引的“视频中由当前服务生成的画面应添加提示，其他画面可不添加提示”规定。但需要注意的是，此处办法要求应当在视频播放周边也添加显性标识，但国家强制标准并未做此要求，此处亟待正式发布稿予以进一步明确。
B. 隐性标识：义务类型减负与标识格式格式更新
a. 减负：将“内容隐式标识”变更为自愿性义务
TC260将“内容隐式标识”与“元数据隐式标识”并列规定为隐式标识的要求范式，但办法和国家强制性标准却将“内容隐式标识”（例如数字水印等）改为鼓励服务提供者履行的自愿性义务，仅要求服务提供者按要求添加元数据隐式标识。这一变更对降低服务提供者的合规成本以及促进相关行业发展有显著积极意义。
b. 更新：更新了“元数据隐式标识”的拓展字符格式
办法明确规定，隐式标识包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。国家强制性标准相应地将TC260指引中规定的拓展字符的字符串格式（“AIGC:{"ServiceProvider": value1, "Time": value2，"ContentID":value3}”）变更为“{"AIGC": {"Label": value1, "ContentProducer": value2, "ProduceID": value3, "ReservedCode1": value4, "ContentPropagator": value5, "PropagateID": value6,"ReservedCode2": value7, "}}”，同时针对每个要素的具体要求进行了详细规定。
4. 主体责任
办法和国家强制性标准创新性地将“内容平台服务提供者”和“互联网应用分发平台”纳入责任主体范畴，不仅要求两主体承担人工智能生成合成内容/上架应用功能的审核义务，还要求“提供网络信息内容传播平台服务的服务提供者”承担对可能和疑似人工智能生成合成内容的主动提示义务以及对“确为、可能和疑似”人工智能生成合成内容的隐性标识义务。这一变化适应于实践中纠纷发生的实际情况，虽一定程度上加重了网络内容平台以及分发平台的相关义务，但对规范人工智能市场秩序、保护用户合法权益有着重要意义。
调配全所资源、长期陪伴客户的一站式法律服务
