人工智能浪潮深刻重塑信息内容的生产与传播方式，“善用”与“善治”成为时代之问。2026中国网络媒体论坛主题论坛之一的“善用善治：AI内容规范发展”主题论坛近日在河南郑州举行。论坛聚焦AI内容规范发展，集中展示治理成效，深度交流实践经验，共商网络生态治理长效之策。

《100秒致敬故宫百年守护》借助AI技术还原大量历史资料，创造了精彩的古今“同框”画面；《AI创意视频|哪吒敖丙悟空都来了！神话照进现实有“亿”点酷》“脑洞大开”，展现大国重器丝滑“变身”中国神话人物；《一觉醒来，苏轼来到了2025年》让宋代词人苏轼与2025年的四川浪漫相遇，巧妙展现四川的发展活力……2025中国正能量网络传播AI精品案例，生动展现了AI帮助内容创作者提升效率、拓宽想象空间等作用。

同时，人工智能被滥用的风险也随之凸显，成为网络生态治理的新课题。中国政法大学教授、数据法治研究院院长时建中说：“当技术被滥用，看见不再为凭，听见不足为信。”深度伪造侵蚀信任基石。现实中，有的商家未经授权，用AI合成明星、主持人、专业人士的肖像、声音，冒充其推荐产品，不仅侵害个人权益，更涉嫌商业欺诈。

AI大模型的价值观和输出质量高度依赖训练数据。北京智谱华章科技股份有限公司首席执行官张鹏说，大模型训练数据中若存在偏见、误差，可能通过连续输出潜移默化地影响受众认知。中国科学院院士、北京航空航天大学教授、未来区块链与隐私计算高精尖创新中心主任郑志明指出，来源不可证、边界不可控、责任不可归、过程不可审，是AI内容治理的深层难题。

AI技术大幅降低内容生产门槛，导致互联网上同质化、低质化信息爆发式增长，通过算法实现的个性化信息分发机制可能加剧“信息茧房”效应。无忧传媒集团有限公司创始人兼首席执行官雷彬艺说：“技术越强大，内容生产者越要有敬畏之心，始终坚持正向的价值导向。”

2025年11月28日，中共中央政治局就加强网络生态治理进行第二十三次集体学习。这对推动网信事业高质量发展，加快建设网络强国具有重大而深远的意义。顶层设计之下，治理实践不断深化。中央网信办以“清朗”系列专项行动为抓手，针对利用AI技术制作发布不实信息、色情低俗内容等突出问题强力出击，推进大模型生成内容规范管理。

与此同时，法治基础不断夯实。去年，国家网信办等4部门联合发布的《人工智能生成合成内容标识办法》，配套的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》同时出台，两者于2025年9月1日起正式施行。这一套组合拳构建了“源头标识—分发审核—传播核验—用户声明”的协同治理闭环，成功将原则性要求转化为可落地执行的治理实践。信息内容领域法规制度文件陆续制定出台，治理体系愈加完善，治理效能日益彰显。

技术带来的问题，最终需要依靠技术来解决。郑志明系统阐述了“可信智能”的技术框架，即通过区块链技术实现确权、存证、溯源与归责，通过隐私计算保障高价值数据“可用不可见、可算不可泄”，通过内容治理从“大而全”走向“准而专、稳而可控”实现精准智能，将治理嵌入内容生成的“前、中、后”环节。

众多企业探索将AI技术转化为治理利器。腾讯推出“青禾守护”，通过强化学习等方式将大量样本注入大模型，让大模型能更好地实现风险及时筛查，并构建社交与信息流主动防御系统；抖音启动“智盾计划”，利用大模型技术从热点、异常流量、特定情绪等全局视角研判网络暴力风险，实现从被动响应到主动防御的跨越；百度研发“清流鉴”产品，依托文心大模型，从多模态智能检测、内容溯源追踪、AI+人工协同验证3道防线入手，助力公众识别深度伪造内容与网络谣言；人民网“天目”智能识别系统，探索“用AI治理AI”的内容风控新模式，检测深度伪造内容，追踪合成手段来源。

语料筑基与行业自律，共同构建健康生态的基石。武汉理工数字传播工程有限公司创始人、执行总裁施其明强调，高质量专业语料将决定模型能力的上限，成为国际AI竞争格局的分水岭和重要变量。他建议，以出版业为切入口，利用其审核严格、文本完整、体系完善的优势，构建自主可控、健康有序的中文AI高质量语料供给体系。论坛上，与AI内容发展相关的52家企业还集体签署了《AI生成合成内容自律公约》，齐心协力守底线、促共治。

《人民日报》（2026年04月03日11版）