法治号 手机版| 站内搜索

网上有害信息举报

AI写真产品的必答题

2023-07-27 16:22:16 来源:南方日报
分享:
-标准+

维 辰

近一周,一款名为“妙鸭相机”的小程序走红网络。支付9.9元,上传20张以上包含人脸的合格照片,就可以生成一个专属数字分身,挑选模板后就可以得到各种风格的写真。听起来是不是很诱惑?

这款AI写真小程序的出圈逻辑,和曾经红极一时的AI换脸软件ZAO极为相似。无论是上传一张照片就能实现“明星梦”,过一把戏瘾,还是以秒杀线下写真类摄影机构的价格、更低的时间成本,生成数十种风格的证件照、写真照,这类AI美图类应用的技术门槛低,却高效满足了用户的某种需求。再加上分享到社交媒体等玩法,产品上线没多久就实现裂变传播。

同样相似的是,二者迅速蹿红后,质疑也随之而来。在ZAO“霸道”的用户协议中,“如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予‘ZAO’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”等表述,就引发人们对隐私泄露及刷脸支付安全性的担忧,而后ZAO删除了“可免费使用用户肖像”相关条款。

很遗憾,妙鸭相机在同一个地方跌了跟头。从最初版本的用户协议也可看到,其存有对用户内容可“以任何形式任何范围使用”此类描述,用户对于自己私人照片的使用场景并没有限制能力。一旦这些照片用于AI模型训练或流入黑产,轻则用户的一些面部特征可能被用于其他生成图片中,重则遭遇精准诈骗等陷阱。妙鸭相机虽然也修改了原协议内容,但网友的不安全感一时间还很难消除。

产品方没有充分吸取教训,而公众的数据安全与隐私保护意识却在提升。这一次,不用专业人士和有关部门提醒,就有网友对妙鸭相机部分条款提出质疑,这无疑是一大进步。近期,好莱坞遭遇63年来首次全行业罢工,就有数字肖像权方面的原因:演艺人员担心电影公司会在没有支付酬劳或获得批准的情况下使用AI制作他们肖像的数字复制品,或者对他们的表演进行数字化修改,提出了保护演员数字肖像权这项“开创性AI提议”。AI发展道路上,价值与风险共存,企业的防风险措施也不能掉队。具备这样的基础,再去谈什么用户黏性、商业模式才有意义,否则一切都是空中楼阁、镜花水月。

实现“长红”,必然要过数据安全和隐私保护这一关。哪怕最终昙花一现,也不要留下一地鸡毛。

编辑:马树娟