7月26日，2025世界人工智能大会暨人工智能全球治理高级别会议在上海开幕。在“有益 安全 公平”人工智能向善分论坛上，国家网信办网络管理技术局局长于永河表示，截至目前，共有474款大模型完成备案，247款大模型应用或功能完成登记，大模型应用注册用户总数已经超过30亿。
论坛现场
上述备案要求与《生成式人工智能服务管理暂行办法》中的一项规定（下称《暂行办法》）有关。为及时应对生成式人工智能带来的风险挑战，2023年7月，国家网信办等七部门发布《暂行办法》，要求提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照相关规定履行算法备案和变更、注销备案手续。
近年来，生成式人工智能、深度合成技术快速发展，为生成合成各类信息提供了便利工具。与此同时，虚假信息泛滥、深度伪造、欺诈等风险也日渐突出。为此，《互联网信息服务深度合成管理规定》《暂行办法》等部门规章均提及了网络服务提供者对AI生成合成内容的标识义务。
为应对“眼见不为实”的信任危机，于永河指出，国家网信办网络管理技术局聚焦生成合成内容标识添加这一关键环节，今年3月联合多部门发布了《人工智能生成合成内容标识办法》（下称《标识办法》），其后，与之配套的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》也已同步施行。
会上，于永河介绍了《标识办法》的制定思路，阐述了如何以标识为抓手，完善人工智能全生命周期治理，推进人工智能产业健康有序发展。
于永河表示，一是提出适应现状的全周期管理方案。首先是充分考量当前人工智能产业发展的现实情况，考虑到在多媒体文件中添加数字水印会明显增加企业成本，且有较高识别难度，在文本内容中添加隐式标识存在技术难点等，未对添加数字水印及识别作强制性要求。“通过嵌入源数据的技术手段添加隐式标识，网站平台无需进行复杂改造，又能够实现互相识别，在兼顾成本的同时，实现生成合成内容的可监督、可溯源。”他说。
《办法》还创新提出标识方法。在文字方面，国家网信办参照了注册商标的TM标识、3C认证标识等，创新提出文字角标形式的文字显式标识。在音频方面，使用了较为通用的“摩斯码”式标识，减少对用户的干扰。另外，鼓励内容传播服务提供者强化生成合成内容识别能力，提升鉴别准确性，及时标注出疑似生成合成内容，避免误标和漏标。
二是贯穿内容制作、内容传播、功能使用的全链条标识治理，“重点解决哪些是生成的、谁生成的、从哪里生成的问题。”
他解释，在内容生成阶段，制作平台需在内容生成的同时，嵌入隐式标识，记录生成合成标签、制作平台编码等要素信息，为全流程识别和溯源提供基础支撑。在内容传播阶段，传播平台需承担主动核验责任，通过技术手段解析文件元数据隐式标识并识别显示标识或内容生成痕迹，特别是兼容主要制作平台的语言数据标识方法，对未合规标识的内容进行拦截或补充标注。在应用分发阶段，应用程序分发平台需在应用上架前严格审查标识相关材料，不上架未按要求开展标识工作的应用，从源头保障用户获取的AI工具具备规范标识的能力。
三是构建包括管理办法、技术强标、实践指南的全体系治理框架。据他透露，有关文本、图片、音频、视频各模态的元数据标注方法、元数据安全防护方法以及生成合成内容检测方法等6项实践指南也将在近期发布。
采写：南都N视频记者 樊文扬 杨柳 王子黎 发自上海
