法治号
“2023年以来，网络谣言整体态势平稳，但AI谣言量近半年信息量增长65%。近两年AI谣言中，经济与企业类谣言占比最高，达到43.71%。近一年来，经济与企业类AI谣言量增速高达99.91%。自2023年11月开始，相关信息量超过社会与公共安全类谣言，对企业与民营经济营商环境的影响不可小觑。”
这些数据来自清华大学新闻与传播学院新媒体研究中心发布的《揭秘AI谣言：传播路径与治理策略全解析》研究报告（以下简称《报告》）。4月24日，中国人民大学公共传播研究所与中国人民大学刑事法律科学研究中心联合举办“AI谣言现状与治理”专题研讨会（以下简称研讨会）。研讨会现场，清华研究团队发布了上述《报告》。
AI谣言造成的后果不容小视，需未雨绸缪。研讨会现场，来自法律界、法学界以及传播学领域的多位一线从业者和专家学者，共同聚焦当前AI谣言的发展特点、危害、治理难点及各方责任等，共同探讨如何应对和加强治理。
▲中国人民大学刑事法律科学研究中心主任时延安在研讨会现场发言。
民生行业成AI谣言重灾区 企业维权面临多重难题
《报告》详述了AI谣言背后的产业链条，这是一条涉及网络水军、非法出版商、“黑公关”等多方的黑产利益链，目的是获取流量和广告收入，甚至是诱导消费、影响商业竞争、操纵社会情绪，这也使得公共安全与经济领域AI谣言高发。
在AI谣言高发的经济领域，餐饮外卖、快递配送等民生行业又是AI谣言重灾区，相关谣言数量、种类繁多。自2023年1月以来，在经济与企业类AI谣言中，该类谣言占比达45.39%。《报告》根据“AI谣言的综合社会影响力”列出了十大典型案例，科大讯飞、美团等企业均曾受到攻击。
但企业应对谣言的负面影响仍面临重大挑战。《报告》提到，谣言传播速度极快，一旦谣言发布，短时间内就可能造成不可逆损害，而法律程序往往较为缓慢，难以及时应对，同时企业也面临证据收集、法律诉讼费用高以及舆论修复等多重难题。
▲经济与企业类AI谣言激增，餐饮外卖等民生行业成为重灾区。（来源：《报告》）
“攻击企业、产品的谣言很多，但企业诉讼、取证又非常困难。”北京市海淀区人民检察院第二检察部四级高级检察官白磊在研讨会现场呼吁关注企业相关谣言。
“谣言都是滞后的，发酵后相关方获得利益，被罚款或者拘留几天就放出来了，但企业如果经营发生重大波动，例如股价剧烈下跌，目前还很难举证。”一位长期从事互联网法律审判工作的法官也认为，目前对于涉企类的相关谣言打击力度仍需加强。
面对谣言，不少企业正在探索有效的辟谣方式。据了解，深受谣言困扰的华为，就通过企业官方渠道建立专门的辟谣机制，并与新媒体平台联动，对扰乱企业正常发展的谣言及时进行澄清和处置。
▲华为通过新媒体平台进行辟谣。（图源：华为官方微博）
AI谣言治理存在多重难点 亟待各方形成合力
如何应对和处置链路错综复杂的AI谣言，不仅关乎AI技术提供者，也是对内容生成平台、行业监管部门乃至司法机关等各方提出的挑战。技术的不断更新，对预防和治理手段提出了更高要求。
作为AI谣言的“看门人”，上述法官认为，首先要明确网络服务提供者，即内容生成平台的责任。“目前相关规定只要求这些网络服务提供者对于AI生成的音视频进行标注，但对于文字未有相关要求，但平台标注责任未落实后的责任和处罚未予以明确。”她认为，目前立法已基本完善，但仍有一些细节有待进一步细化。
“一些谣言基于事实拼接信息、挑动对立，危害性较强，需要综合治理。”中国政法大学校办副主任兼法务办主任于冲教授认为，司法治理也需要有“链条化”思维，例如针对AI造谣链条前端发布主体，中端采取的技术手段、频次、影响范围，末端的后果危害分别进行评价和判断。
“在办案实践中，‘主动打击难’‘移送起诉难’等问题突出，使案件打击效果有时并不显著。”研讨会现场，一位实战经验丰富的专家，分享了此类谣言案件中团伙化的作案手段以及背后呈现出的黑灰产业链特征，也道出了AI谣言案件中遇到的难点。
专家表示，首先，谣言类案件一般都是通过对其进行溯源后，才能发现相关生成式人工智能以及相关机构，若没有涉及本地谣言作为抓手，属地公安机关或缺乏管辖权。其次，这类谣言类检察院批捕起诉要求更高，需明确谣言性质、是否达到严重扰乱社会秩序等多个标准，目前在执行中还缺乏统一标准。
在目前行政处罚居多，刑事处罚较少的情况下，参会的多位专家均认为，这也客观上使得对造谣者的震慑力度有限，“罚款五百元或者处以几天的行政拘留，同他们的获益相比，可能还不足以令其望而却步，这也使得造谣者屡禁不止。”
那么，如何治理AI谣言？中国政法大学刑事司法学院副教授时方认为，加强司法治理AI谣言的预防效果，需加强平台的源头治理。他称，通过技术手段进行前端性规制，效果肯定好于后端的监管及法律治理，需要做好民法、行政法、刑法三者的衔接配套治理，强化对造谣行为的震慑力度。同时，应当增强法律规制的“确定性”，如同打击酒驾醉驾一样，每起必查，自然会使得违法犯罪行为得到震慑与遏制。
最高人民检察院检察理论研究所信息部主任石磊建议，加强针对AI谣言犯罪的公益诉讼。他认为，AI谣言造成的违法和犯罪存在的司法认定难题，在此前的各类网络犯罪中都存在，但这些问题正在不断被放大。
据了解，针对AI谣言新趋势，有关部门近年来一直在积极探索治理解法。2023年9月，最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》指出，对实施网络暴力违法犯罪者利用“深度合成”等生成式人工智能技术发布违法信息的，将依法从重处罚。
“网络谣言的后果影响很难消除。例如涉企经济类谣言，如果处置不到位或处罚较轻，仍会有人为了利益而制造网络谣言，甚至将黑灰产业中的传播制作发布工具复用到其他可以获利的领域。”北京网络行业协会专家黄小苏表示，总体来看，AI谣言治理涉及行业监管部门、司法机关、企业平台、技术提供者、网民等多个主体，希望出台针对性法律规定，各个主体齐抓共管，加大对AI谣言的综合治理力度。（余瀛波）
编辑：王晨晖