法治号
编者按：2022年，多个人工智能应用“出圈”，并大有取代部分人类智力工作的趋势。人工智能技术的快速发展，既令人惊叹，又带来不少焦虑。技术的快速发展让人工智能相关的法律问题以及伦理治理显得格外紧迫。本刊推出一组报道供参考。
本刊记者 焦艳
2022年12月11日，国家互联网信息办公室、工信部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），对AI换脸等深度合成应用边界作出限定，并要求深度合成服务提供者落实信息安全主体责任等，其中提出，深度合成服务提供者提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。《规定》自2023年1月10日起施行。
带来诸多风险挑战
近年来，深度合成在社交、影视、广告、医疗、教育、科研等诸多领域不断深化应用，展现出较大的技术价值和商用潜力。《规定》明确，深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。国家互联网信息办公室有关负责人表示，《规定》的出台，正是为了加强针对互联网信息服务深度合成的管理，统筹协调相关监管工作，确保相关技术与应用纳入规范化、法治化轨道，维护国家安全和社会公共利益。
伴随着不断涌现的场景需求，深度合成内容数量和关注度日渐激增的同时，也被一些不法人员用于制作、复制、发布、传播违法和不良信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等，影响传播秩序和社会秩序，损害人民群众合法权益。“我们所熟知的元宇宙场景构建，AI换脸换头，包括这段时间大火的Chat GPT，都属于深度合成技术。”北京大成律师事务所高级合伙人肖飒律师认为，技术是一把双刃剑，对技术的正当使用可以推动社会的进步，但技术的滥用则会给公民个人权利、社会公共秩序以及国家安全带来诸多风险挑战。以信息传播失真为例，若不法分子利用深度合成技术发布虚假新闻、散布谣言，不仅易造成错误舆论导向，也是对社会信任体系的破坏，严重影响社会公共秩序，引发社会信任危机。
构建协同治理机制
我国对互联网信息服务深度合成作出了科学全面的制度规范。中国信息通信研究院副院长王志勤撰文表示，一方面，《规定》有效衔接了相关法律法规。在网络安全法、数据安全法、个人信息保护法、互联网信息服务管理办法等上位法框架下，《规定》有效承接了《网络信息内容生态治理规定》《网络音视频信息服务管理规定》《互联网信息服务算法推荐管理规定》等规章、规范性文件中关于网络信息内容管理、新技术新应用安全评估、显著标识、备案管理等制度规定，对深度合成服务管理机制、主体责任等作出了衔接性制度安排。另一方面，《规定》构建了统筹协调、多方参与的监管体制。《规定》明确，国家网信部门负责统筹协调全国深度合成服务的治理和监督管理工作，国务院电信主管部门、公安部门依据各自职责负责深度合成服务的监督管理工作。地方网信部门负责统筹协调本行政区域内深度合成服务的治理和监督管理工作，地方电信主管部门、公安部门依据各自职责负责本行政区域内深度合成服务的监督管理工作。《规定》还鼓励相关行业加强行业自律，搭建齐抓共管、协同共治的治理机制。
建立健全辟谣机制
近几年，滥用深度合成技术多次引发关注。2019年，AI换脸应用ZAO一度走红，用户仅需在该应用中上传一张正脸照，即可将自己的面孔与大量影视片段中的明星面孔进行置换。但ZAO仅上线几天就因隐私协议不规范，存在数据泄露风险等问题被工信部相关部门约谈。
肖飒说，深度合成技术和其他互联网技术最大的不同在于其极易混淆性，《规定》专门列出两条来解决这个问题：一是重点提示，二是要有辟谣机制。
《规定》明确，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依法依规保存日志信息。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等具有生成或者显著改变信息内容功能服务的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示信息内容的合成情况，避免公众混淆或者误认；提供非上述深度合成服务的，应当提供显著标识功能，并提示使用者可以进行显著标识。任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。
《规定》明确，深度合成服务提供者应当建立健全辟谣机制，发现利用深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告。肖飒说，鉴于深度合成技术成品具有一定迷惑性，对公众可能产生误导，因此该机制是一项必要措施。
近年来，探索深度合成技术的治理路径，如何在创新与治理之间平衡、积极寻求正向解决方案和规范机制成为业界关注热点。肖飒说，由于技术门槛的持续降低，目前已经出现越来越多的不法分子利用深度合成技术实施诈骗、敲诈勒索等犯罪行为，针对中老年等弱势群体的尤其多，且呈现出犯罪成功率高、诈骗金额大等特点。基于此，对深度合成技术的治理必须尽快提上日程，监管机构需要尽快建立和出台一套切实可行的规范，而行业自律组织也需要主动拥抱合规，建立起促进科技向上向善的行业准则，多方合力实现对深度合成技术应用风险的多维度治理。
编辑：白楚玄