为了规范人工智能生成和合成内容的标识，保障国家安全和社会公共利益，同时保护公民、法人和其他组织的合法权益，依据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》以及《生成式人工智能服务管理暂行办法》等相关法律法规，国家互联网信息办公室草拟了《人工智能生成合成内容标识办法（征求意见稿）》，目前正面向社会广泛征集意见。
公众可以通过以下方式提出宝贵意见：
1. 电子邮件：请发送至： biaoshi@cac.gov.cn
2. 信函：请邮寄至北京市西城区车公庄大街11号国家互联网信息办公室网络管理技术局，邮编100044。请在信封上注明“人工智能生成合成内容标识办法征求意见”。
意见征集将于2024年10月14日截止。请查看附件：《人工智能生成合成内容标识办法（征求意见稿）》。
国家互联网信息办公室
2024年9月14日
人工智能生成合成内容标识办法
（征求意见稿）
第一条 为促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章，制定本办法。
第二条 符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（以下简称“服务提供者”）开展人工智能生成合成内容标识的，适用本办法。
行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用人工智能生成合成技术，未向境内公众提供服务的，不适用本办法的规定。
第三条 人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。
- 人工智能生成合成内容标识包括显式标识和隐式标识。
- 显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。
- 隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
第四条 服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识。
- （一）在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；
- （二）在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识；
- （三）在图片的适当位置添加显著的提示标识；
- （四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识；
- （五）呈现虚拟场景时，应当在起始画面的适当位置添加显著的提示标识，可在虚拟场景持续服务过程中的适当位置添加显著的提示标识；
- （六）其他生成合成服务场景应当根据自身应用特点添加具有显著提示效果的显式标识。
服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。
第五条 服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途、版权等信息内容。
第六条 提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动。
- （一）应当核验文件元数据中是否含有隐式标识，对于含有隐式标识的，应当采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户该内容属于生成合成内容；
- （二）文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容可能为生成合成内容；
- （三）文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播平台服务的服务提供者检测到显式标识或其他生成合成痕迹的，可识别为疑似生成合成内容，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容疑似为生成合成内容；
- （四）对于确为、可能和疑似生成合成内容的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或编码、内容编号等传播要素信息；
- （五）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。
第七条 互联网应用程序分发平台在应用程序上架或上线审核时，应当核验服务提供者是否按要求提供生成合成内容标识功能。
第八条 服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。
第九条 如用户需要服务提供者提供没有添加显式标识的生成合成内容，可在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并留存相关日志不少于六个月。
第十条 用户向提供网络信息内容传播平台服务的服务提供者上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或服务，不得通过不正当标识手段损害他人合法权益。
第十一条 服务提供者应当按照有关强制性国家标准的要求进行标识。
第十二条 服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。
第十三条 违反本办法规定，未对生成合成内容进行标识造成严重后果的，由网信等有关主管部门按照有关法律、行政法规、部门规章的规定予以处罚。
第十四条 本办法自2024年 月 日起施行。
《人工智能生成合成内容标识办法（征求意见稿）》解读
元元今天对《人工智能生成合成内容标识办法（征求意见稿）》的报道进行了深入的解读，以下是我的一些看法：
在标识要求方面，我认为这是确保内容真实性和透明度的关键步骤。通过在文本、音频、图片、视频等不同类型的生成合成内容中添加显式标识，用户可以轻松识别内容是否由人工智能生成。同时，隐式标识的添加，如在文件元数据中嵌入特定的信息，为内容的追踪和验证提供了技术支持。
对于平台责任，我认为这是确保整个生态系统健康运行的基础。网络信息内容传播平台作为内容分发的重要环节，有责任采取必要措施来规范生成合成内容的传播。这不仅包括核验和添加提示标识，还要在用户上传内容时提供清晰的指导和工具，以促进用户遵守标识规定。
至于用户协议和责任，我认为这是维护良好网络环境的重要一环。服务提供者需要在用户协议中明确标识方法和样式，确保用户充分理解并遵守相关规定。用户在享受人工智能带来的便利的同时，也应承担起相应的责任，主动声明并标识生成合成内容，以维护网络空间的真实性和诚信。
总的来说，这份征求意见稿的发布，标志着我们在规范人工智能生成合成内容方面迈出了重要一步。通过明确的标识要求、平台责任和用户协议，我们可以期待一个更加透明、健康、有序的网络环境。
想了解更多AI行业资讯信息请关注AI人工智能网站--AITOP100平台--AI资讯专区：https://www.aitop100.cn/infomation/index.html
