规避AI失控的潜在风险

□ 黄兰松

多年来，国内外影迷对电影《速度与激情》系列情有独钟。影片主演保罗·沃克，实际上在2013年《速度与激情7》开拍两个月时，就因车祸意外去世。为了完成该部电影的拍摄任务，制片方运用AI换脸技术，将沃克的面部替换成他的兄弟克莱恩的面部，同时结合旧片段和计算机视觉技术，成功完成了未拍摄完的戏份。

什么是AI换脸技术？AI即为人工智能Artificial Intelligence的缩写。AI换脸技术是一种利用计算机视觉技术和人工智能算法，将一个人的面部表情、动作、声音等信息，移植到另一个人面部的高级技术。该项技术已被广泛应用于多个领域，包括但不限于影视特效、游戏制作、社交媒体、教育培训、医疗诊断、安全监控等。例如，在医疗诊断领域，该技术可被运用于面部重建和整形手术中，以协助那些面部遭受损伤或畸形的患者恢复其完整面容。在安全监测领域，其可应用于识别和追踪目标人物，从而提高监测的精准度和效率。

然而，技术与犯罪时常相伴相随，AI亦存在一定的潜在风险和危害性。由于AI技术的高效和便捷，新型科技犯罪如AI犯罪、区块链犯罪、数据犯罪等相继涌现，例如利用AI非法获取用户数据，从而实施网络诈骗犯罪，其危害已经从单纯的财产威胁扩展到人身伤害。同时，由于AI本身具有一定的脆弱性，也可能造成个人信息泄露、被篡改或被滥用，导致社会资源浪费或国家安全受损等后果。特别是在“大数据+AI”时代，高智能技术可以通过数据获取、数据碰撞、数据销售、数据犯罪、国家机密窃取、公文证件伪造、违反道德的医学实验以及生化武器的制造等一系列高级技术手段。同时，随着AI犯罪不断增多，一些不法分子也逐渐意识到了“数据就是生命”这一真理。犯罪分子甚至开始采用AI技术，将勒索软件转化为武器化工具，以更有效地策划针对国防、城市、公共交通、医院、商业等相关领域的攻击行动。

就AI的面部识别技术而言，其本身并无缺陷，但若有人心怀不轨，可能会将其用于违法犯罪行为。现实生活中，不少不法分子利用微信公众号平台、微信小程序等进行各种“换脸”诈骗。这些行为所涉及的范围涵盖了：一是侵犯隐私权和名誉权。运用AI换脸技术制作虚假视频，诽谤他人名誉，侵害他人的隐私和形象，甚至可能涉嫌传播淫秽物品罪或诽谤罪。二是网络欺诈。任何形式的网络欺诈都是不道德且非法的行为，借助AI换脸技术，任何人都有可能被伪装成他人，盗窃、冒充他人身份，以获取金融信息或其他敏感信息。三是虚假信息传播。互联网时代，虚假信息具有传播速度快、内容复杂多样和范围广、影响大等特点。利用AI换脸技术，恶意伪造视频、图片和文本等信息，向公众传播虚假信息，从而破坏社会的稳定和政治的安全。四是非法的军事攻击。AI换脸技术，可以实现对图像、声音、视频的自动生成、篡改和伪造，可能会被攻击者用于伪造特定人员的面部图像，让人难以辨别真伪，进而被用于非法军事活动等。

针对AI换脸技术的监管和规范化应用，国家新闻出版署于2019年2月发布了《关于进一步加强网络视听节目内容管理的通知》，明确禁止使用AI和其他技术手段对网络视听节目进行篡改、伪造、冒充、恶意调整等行为，特别强调禁止使用AI换脸技术制作、发布虚假新闻。

但是，即便如此，我国现有的法律制度体系仍未能跟上AI发展的步伐。AI技术所固有的特点和属性，可能引发多方面的危机和新的犯罪风险，对现有的法律体系、道德标准以及利益分配的模式等产生深远的影响。因此，我们必须从国家安全战略的高度出发，对AI展开全面而深入的研究。如何有效预防黑客借助AI不仅仅是简单的换脸技术进行犯罪？如何规避AI失控的潜在风险？如何在AI领域内构建一个“以人为中心”的社会治理框架？如何构建一整套囊括AI换脸技术在内的AI法律法规、伦理规范和政策体系，以提升AI的安全评估和管控能力？倘若放任AI自由发展而不予约束，势必会带来更严重的风险，甚至失去控制。在确保技术创新不受干扰的前提下，我们的法律制度必须有效控制AI所带来的公共危险和犯罪风险。这也是我国当前面临的重大课题。

因此，如何构建一个结构合理的责任体系，对AI项目的设计者、生产者、销售者以及使用者等在内的主体责任义务进行明确界定，就显得尤为重要。

（作者单位：山东大学法学院）