网信办征集意见：应对AI合成内容的信任危机标识办法

随着生成式AI的爆发，社交媒体上的内容越来越真假难辨。为了应对这一冲击，国家互联网信息办公室发布了《人工智能生成合成内容标识办法（征求意见稿）》，进一步细化了AI合成内容的标识办法。这是全球范围内第一部关于人工智能生成合成内容标识的国家标准，对人工智能内容产业的有序发展和业务规则具有重要的指引意义，也有助于人工智能良性生态的培育。
此次的《意见稿》提出，人工智能生成合成内容标识包括显式标识和隐式标识。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
不同互联网平台的义务不尽相同。网络信息服务提供者的义务包括确保显式标识、添加隐式标识；提供网络信息内容传播平台服务的服务提供者的义务包括核验隐式标识、添加提示标识、管理疑似内容等；互联网应用程序分发平台的义务包括核验标识功能。
具体而言，针对提供生成合成服务的网络信息服务提供者，如果提供可能导致公众混淆或者误认的深度合成服务，应当按要求对生成合成内容添加显式标识。
《意见稿》还要求提供生成合成服务的网络信息服务提供者，在生成合成内容的文件元数据中添加隐式标识，隐式标识需包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。同时，提供网络信息内容传播平台应当采取措施，规范生成合成内容传播活动。
如果违反这一规定，未对生成合成内容进行标识造成严重后果的，将由网信等有关主管部门按照有关法律、行政法规、部门规章的规定予以处罚。

本文 原创，转载保留链接！网址：https://licai.bangqike.com/cjnews/771555.html