法治号 手机版| 站内搜索

网上有害信息举报

AI“复活”逝者或面临法律风险

2024-04-08 14:42:21 来源:法治参考 -标准+

本刊记者 白楚玄

尽管争议和担忧不断,曾存在于科幻电影和小说中的情节——用AI“复活”逝者已成现实。近年来,伴随生成式人工智能技术的飞跃发展,各类AI技术的门槛逐渐降低,AI“复活”逝者成为应用场景之一。

对此,有人欣然接受,认为这项技术为人们提供了情感慰藉的新途径;但也有人表示担忧,“逝者已去,沉湎于虚拟交流怎么往前走”。

AI“复活”已初步形成产业

“我‘复活’了我老爸,因为我奶奶太想他了。”近日,一位博主“在下散财”发布了一则视频,记录了用AI“复活”因病离世父亲,以宽慰奶奶的故事。

这样的故事并非孤例。

2023年1月,通过全息投影、AI语音合成等技术合成的吴孟超院士AI“复原人”,在其追思暨安葬仪式上向追悼者提问互动;2023年3月,一位博主通过数字建模,生成了奶奶的“数字人”,讲着湖北方言的“奶奶”和博主视频对话;近日,音乐人包小柏用AI“复活”22岁不幸离世的女儿——“妈咪生日快乐,说真的,包子好想你啊……”画面中惟妙惟肖的年轻女孩为母亲庆生。

除了“复活”亲人挚友或恩师,还有人选择用AI技术,让邓丽君、姚贝娜、李玟等已故偶像“复活”,翻唱歌曲。

随着AI技术的进步,普通人也能接触到AI“复活”这项技术。

“只需提供一张人物正面照,就能让嘴巴、眼睛和头部动起来……”记者在一些电商平台搜索“AI复活”,发现已有不少相关付费服务,有些已售出超过100单,价格从10元至数万元不等。

有的买家表示,“看到了逝去多年的亲人,真是泪流满面”“对家人是很大的慰藉”。不过,也有不少网友对此感到担忧:“有人会不会永远都走不出来,沉缅与逝者交流?”

在近日微博平台两项关于复活和被复活的问卷调查中,大众的观点存在差别。对于“你能接受用AI复活亲人吗”的投票中,38%的人表示接受,35%的人表示反对,还有27%的人持保留意见;而在另一项“你愿意去世后让亲人用AI复活自己吗”的投票中,62%的人表示不愿意,仅有38%的人表示接受。

AI“复活”属于AIGC细分赛道

有博主表示,“其实做出来的视频不是很真,但是老人没那么敏锐,看了视频还是信了”。

这也反映了当下AI“复活”技术的现状。

记者在电商平台进行了咨询。一位商家表示:“目前AI‘数字人’服务,简单的可让照片动起来,只需花费几十元钱;稍微复杂点的有表情,百十元钱;再高级点就是AI换脸技术,从几百到几千元;如果想要完全复刻声音、动作、外貌,达到95%以上相似度的,价格在2万至8万元不等。”

有业内人士直言,AI“复活”其实是当前AIGC领域的一个细分赛道,本质是利用图像、语音、视频、文字等多个领域中已经成熟的技术生成个人形象、声音、知识库、思维方式、语言风格等内容,再将这些不同内容“拼接”成一个完整的产品。

“‘数字复活’是多种AI技术的融合体,将其看作是数字人领域的一种应用创新更为准确。”国内数字人底层技术基础设施服务商、数字栩生CTO翁冬冬在接受媒体采访时表示。

在AI“复活”逝者已发展成了一门生意的同时,也有人对AI“复活”隐藏的伦理问题和隐私泄露、侵权、诈骗等潜在风险表示担忧。短短10分钟,公司老板被骗430万元;换脸冒充当红女星带货,赚得盆满钵溢等“换脸”和拟声骗局,让公众防不胜防。

记者调查发现,不少提供AI“复活”的电商页面都标注:“服务只针对亲人,请不要利用他人照片视频做非法活动,否则后果自负,本店不承担任何侵权法律责任。”

现行监管和规范面临挑战

虽然AI“复活”当前还存在技术、素材等局限,但是这一正在萌芽阶段的技术和商业模式,向现有标准与规范提出挑战。

中国政法大学数据法治研究院教授张凌寒告诉记者,目前我国已有相关的规定。2023年1月生效实施的《互联网信息服务深度合成管理规定》中,对通过人工智能技术生成合成数字人、使用他人生物识别信息合成数字形象等服务,都有相关的规定。“根据这些规定,如果要生成他人的换脸、换声,或者合成他人形象,应该得到当事人的单独同意。这也与我国个人信息保护法的相关规定是一致的,因为这些生物识别信息构成了敏感个人信息。”张凌寒说。

然而,目前从事技术“复活”的机构资质、AI“复活”发起方的权责、数字形象的技术应用边界、“数字人”产品的监督机制等许多问题亟待解决。

在中国传媒大学文化产业管理学院法律系主任郑宁看来,制作方在利用AI技术数字“复活”逝者后,可能需要承担一些法律责任。因此,为保障逝者的人格权益,制作方只有经过逝者继承人的同意,才能进行相关“复活”操作。

在张凌寒看来,无论这项技术如何发展,有一点应该明确,即仅限在怀念的场景下使用,不得与他人产生互动或者在公共场所传播,避免发生欺诈。因此,法律也要求生成合成的音视频,必须作出显式标识和隐式标识,避免公众混淆。

“立法通常是滞后的,尤其在新技术领域。”郑宁指出,总体而言,底线问题必须通过立法解决,科技发展的边界应该在维护社会法治、保护个人权益和确保伦理底线的前提下进行。数字“复活”技术的推广需要更多的监管和规范,既保证技术的创新,也要保障人类的价值和尊严。除此之外,可以通过“软法”比如行业标准、企业自律行为等,在实际操作中发挥规范作用。


编辑:白楚玄