AI生成组成内容或有必要符号！记者实测交际渠道辨认才能

9月14日，国家网信办发布《人工智能生成组成内容标识办法（征求定见稿）》（以下简称《征求定见稿》）。提出人工智能生成组成内容应当增加显式标识和隐式标识，且对人工智能生成组成内容服务供给者（以下简称“服务供给者”）、网络信息内容传达渠道、互联网运用程序分发渠道等均提出相应合规要求。

南都大数据研究院实测发现，现在不少互联网交际渠道已上线AI生成组成内容显式标识、自主声明、内容检测等功用，但部分渠道对AI生成组成内容的检测辨认才能尚有提高空间。

AI服务供给者： 应对生成组成内容增加显式、隐式标识

国家网信办表明，为标准人工智能生成组成内容标识，保护国家安全和社会公共利益，保护公民、法人和其他安排的合法权益，依据《中华人民共和国网络安全法》《互联网信息服务算法引荐办理规则》《互联网信息服务深度组成办理规则》《生成式人工智能服务办理暂行办法》等法令法规，国家网信办起草了《征求定见稿》。

《征求定见稿》提出，服务供给者应当对运用人工智能技能制造、生成、组成的文本、图片、音频、视频等信息增加显式标识和隐式标识。

其间，显式标识是指在生成组成内容或许交互场景界面中增加的，以文字、声响、图形等办法出现并可被用户显着感知到的标识，例如在图片上增加水印、在音频中刺进语音提示等。

隐式标识是指采纳技能办法在生成组成内容文件数据中增加的，不易被用户显着感知到的标识，例如数字水印等。

此外，《征求定见稿》提出，若用户需求服务供给者供给没有增加显式标识的生成组成内容，服务供给者应在经过用户协议清晰用户的标识职责和运用职责后，供给不含显式标识的生成组成内容，且留存相关日志不少于六个月。

网络信息内容传达渠道： 应核验上传文件，提示用户自动声明

《征求定见稿》一起要求网络信息内容传达渠道采纳办法，标准生成组成内容传达活动。

按《征求定见稿》要求，内容传达渠道应当核验用户上传的文件元数据中是否含有隐式标识，并提示用户自动声明其发布内容中是否包括生成组成内容。对生成组成内容，应当采纳恰当办法在发布内容周边增加显着的提示标识。

即便文件元数据中未核验到隐式标识，用户也未声明内容由AI生成组成，但若内容传达渠道检测到内容中包括显式标识或存在生成组成痕迹，也应在发布内容周边增加显着提示标识，提示用户该内容疑似为生成组成内容。

关于确为、或许和疑似生成组成内容的，内容传达渠道还应当在文件元数据中增加生成组成内容特色信息、传达渠道称号或编码、内容编号等传达要素信息。

运用程序分发渠道： 应核验APP是否供给标识功用

《征求定见稿》还提出，互联网运用程序分发渠道在运用程序上架或上线审阅时，应当核验服务供给者是否按要求供给生成组成内容标识功用。

部分渠道已上线标识功用 AI内容检测辨认才能待提高

南都大数据研究院留意到，现在国内不少AI大模型已在其生成的图片、视频等内容中自动增加显式水印。在内容传达渠道方面，抖音、小红书、微博等多个闻名交际渠道也已上线自主声明功用，提示用户自主声明内容是否为AI生成组成，并对部分生成组成痕迹显着的内容自动增加提示符号。

抖音、微博、小红书等渠道，均已上线AI内容自主声明和提示功用，便运用户区分AI生成组成内容。

但南都大数据研究院实测发现，部分渠道的AI内容检测精确率尚有提高空间。9月14日上午，南都研究员经过某AI大模型生成了一张小鸟在林间翱翔的图片，该图片左下角带有显着的AI生成提示水印。随后，南都研究员别离将该图片上传至抖音、小红书和微博。尽管水印显着，但在南都研究员不自动点击自主声明的情况下，三个渠道均未辨认出图片来历，也未对其增加提示符号。

若《征求定见稿》正式落地，各渠道还需进一步加强对用户上传文件的元数据检测和水印辨认才能，以更精确地符号AI生成组成内容。

在南都研究员不自动声明的情况下，三家互联网渠道均未自动对AI生成图片增加提示标识。

10月14日前可提反应定见

大众可经过以下途径和办法对《征求定见稿》提出反应定见：

1.经过电子邮件办法发送至：biaoshi@cac.gov.cn。

2.经过信函办法将定见寄至：北京市西城区车公庄大街11号国家互联网信息办公室网络办理技能局，邮编100044，并在信封上注明“人工智能生成组成内容标识办法征求定见”。

定见反应截止时刻为2024年10月14日。

人工智能生成组成内容标识办法

（征求定见稿）

第一条 为促进人工智能健康发展，标准人工智能生成组成内容标识，保护公民、法人和其他安排合法权益，保护社会公共利益，依据《中华人民共和国网络安全法》《互联网信息服务算法引荐办理规则》《互联网信息服务深度组成办理规则》《生成式人工智能服务办理暂行办法》等法令、行政法规和部门规章，拟定本办法。

第二条 契合《互联网信息服务算法引荐办理规则》《互联网信息服务深度组成办理规则》《生成式人工智能服务办理暂行办法》规则景象的网络信息服务供给者（以下简称“服务供给者”）展开人工智能生成组成内容标识的，适用本办法。

职业安排、企业、教育和科研安排、公共文明安排、有关专业安排等研制、运用人工智能生成组成技能，未向境内大众供给服务的，不适用本办法的规则。

第三条 人工智能生成组成内容是指运用人工智能技能制造、生成、组成的文本、图片、音频、视频等信息。

人工智能生成组成内容标识包括显式标识和隐式标识。

显式标识是指在生成组成内容或许交互场景界面中增加的，以文字、声响、图形等办法出现并可被用户显着感知到的标识。

隐式标识是指采纳技能办法在生成组成内容文件数据中增加的，不易被用户显着感知到的标识。

第四条 服务供给者供给的生成组成服务归于《互联网信息服务深度组成办理规则》第十七条第一款景象的，应当依照下列要求对生成组成内容增加显式标识。

（一）在文本的开始、结尾、中心恰当方位增加文字提示或通用符号提示等标识，或在交互场景界面或文字周边增加显着的提示标识；

（二）在音频的开始、结尾或中心恰当方位增加语音提示或音频节奏提示等标识，或在交互场景界面中增加显着的提示标识；

（三）在图片的恰当方位增加显着的提示标识；

（四）在视频开始画面和视频播映周边的恰当方位增加显着的提示标识，可在视频结尾和中心恰当方位增加显着的提示标识；

（五）出现虚拟场景时，应当在开始画面的恰当方位增加显着的提示标识，可在虚拟场景继续服务过程中的恰当方位增加显着的提示标识；

（六）其他生成组成服务场景应当依据本身运用特色增加具有显着提示作用的显式标识。

服务供给者供给生成组成内容下载、仿制、导出等办法时，应当保证文件中含有满足要求的显式标识。

第五条 服务供给者应当依照《互联网信息服务深度组成办理规则》第十六条的规则，在生成组成内容的文件元数据中增加隐式标识，隐式标识包括生成组成内容特色信息、服务供给者称号或编码、内容编号等制造要素信息。

鼓舞服务供给者在生成组成内容中增加数字水印等办法的隐式标识。

文件元数据是指依照特定编码格局嵌入到文件头部的描述性信息，用于记载文件来历、特色、用处、版权等信息内容。

第六条 供给网络信息内容传达渠道服务的服务供给者应当采纳办法，标准生成组成内容传达活动。

（一）应当核验文件元数据中是否含有隐式标识，关于含有隐式标识的，应当采纳恰当办法在发布内容周边增加显着的提示标识，清晰提示用户该内容归于生成组成内容；

（二）文件元数据中未核验到隐式标识，但用户声明为生成组成内容的，应当采纳恰当办法在发布内容周边增加显着的提示标识，提示用户该内容或许为生成组成内容；

（三）文件元数据中未核验到隐式标识，用户也未声明为生成组成内容，但供给网络信息内容传达渠道服务的服务供给者检测到显式标识或其他生成组成痕迹的，可辨认为疑似生成组成内容，应当采纳恰当办法在发布内容周边增加显着的提示标识，提示用户该内容疑似为生成组成内容；

（四）关于确为、或许和疑似生成组成内容的，应当在文件元数据中增加生成组成内容特色信息、传达渠道称号或编码、内容编号等传达要素信息；

（五）供给必要的标识功用，并提示用户自动声明发布内容中是否包括生成组成内容。

第七条 互联网运用程序分发渠道在运用程序上架或上线审阅时，应当核验服务供给者是否按要求供给生成组成内容标识功用。

第八条 服务供给者应当在用户服务协议中清晰阐明生成组成内容标识的办法、款式等标准内容，并提示用户仔细阅读并了解相关的标识办理要求。

第九条 如用户需求服务供给者供给没有增加显式标识的生成组成内容，可在经过用户协议清晰用户的标识职责和运用职责后，供给不含显式标识的生成组成内容，并留存相关日志不少于六个月。

第十条 用户向供给网络信息内容传达渠道服务的服务供给者上传生成组成内容时，应当自动声明并运用渠道供给的标识功用进行标识。

任何安排和个人不得歹意删去、篡改、假造、藏匿本办法规则的生成组成内容标识，不得为别人实施上述歹意行为供给东西或服务，不得经过不正当标识手法危害别人合法权益。

第十一条 服务供给者应当依照有关强制性国家标准的要求进行标识。

第十二条 服务供给者在实行算法存案、安全评价等手续时，应当依照本办法供给生成组成内容标识相关资料，并加强标识信息同享，为防备冲击相关违法犯罪活动供给支撑和协助。

第十三条 违背本办法规则，未对生成组成内容进行标识形成严重后果的，由网信等有关主管部门依照有关法令、行政法规、部门规章的规则予以处分。

第十四条 本办法自2024年 月 日起实施。

出品：南都大数据研究院

采写：南都研究员 李伟锋