法治号 手机版| 站内搜索

网上有害信息举报

【法舆观察】给AI技术发展上一把法律“安全锁”

2024-05-24 17:31:03 来源:法治网舆情中心 -标准+

当前,生成式人工智能技术的应用场景不断增多,相关技术在商业上有较为广阔的使用前景,但其中潜藏着法律安全风险和侵权隐忧,如“AI换脸”引发名誉侵权、诈骗犯罪等,近期火热的“AI复活”也引发批评和争议。如何有效协调技术与法律、技术与伦理之间的关系成为生成式人工智能治理面临的重要议题。业内指出,面对新风险,需要渐进式地出台细则规定、伦理规范,以保障科技安全,避免技术滥用。

随着生成式人工智能技术不断升级,“AI复活”“AI换脸”等应用场景带来的法律问题频出。

“AI换脸”是深度伪造在视频领域的一种具体应用,主要是将一个人的面部换到另一个人身上。相关技术被应用到商业活动中时,存在隐私协议不规范、存在数据泄露风险等问题。商业平台未经当事人允许擅自使用其人脸信息,面临侵权的法律诉讼的案件也层出不穷。同时,由于“AI换脸”技术生成的视频和图像非常逼真,其也被用于犯罪、电信网络诈骗,损害了相关领域的社会公共利益。“AI复活”是将逝者的个人信息资料输入AI算法模型,再现其生前形象。但多名法律人士指出,未经近亲属同意擅自利用AI技术“复活”逝者构成侵权行为,会侵害逝者的肖像利益,同时还可能侵害逝者名誉权益,侵犯逝者及其家属的隐私信息,涉及著作权侵权等诸多法律问题。

面对生成式人工智能存在的法律挑战,2023年8月,中央网信办出台《生成式人工智能服务管理暂行办法》,旨在强化对生成式人工智能行业的规范化管理和引导。业内人士分析认为,技术迭代迅速,现有规则是否能够全面覆盖未来可能出现的应用场景;如何在鼓励科技创新与产业繁荣的同时,做到有效约束技术滥用,防止损害公民权利和社会公共利益等问题,都是该办法在未来实施过程中可能存在的缺憾。中国政法大学数据法治研究院教授张凌寒指出,我国已有的一些人工智能的法规符合中国本土特色,但大部分以部门规章为主,效力位阶较低。此外,多数监管部门基于自身监管职能出台部门规章,导致缺乏一个统筹协调的机制和视角。

业内建议,AI技术风险的预防需要完善规则、技术更新、行业自律等方式实现协同治理,规范人工智能技术的应用发展。

一是采用渐进式规则完善方式引导技术有序发展。中国传媒大学文化产业管理学院法律系主任郑宁等人指出,在新技术应用初期,会存在一定的模糊地带,法律法规和监督管理也会有滞后性。总体而言,科技发展的边界应该在维护社会法治、保护个人权益和确保伦理底线的前提下进行。现有法律难以规制的,可通过不断“打补丁”的方式出台新规则,逐渐完善规制生成式人工智能技术的规范体系,给新兴领域技术发展留出足够空间。此外,可通过“软法”如行业标准、企业自律行为等,在实际操作中发挥规范作用,行业协会牵头制定伦理标准,推动企业和从业者遵循标准,从而解决技术运用中的伦理与法律问题。

二是在治理中平衡技术创新和技术治理的关系。浙江大学光华法学院教授程乐指出,在采取措施加快生成式人工智能创新发展的同时,也要认识到其所带来的内外部风险挑战,相应地进行治理。一方面,通过简化行政许可、减少税收等政策积极鼓励企业进行技术创新,引导企业利用自身发展推动经济社会发展。另一方面,有关主管部门坚守依法治理底线,对于企业可能的违规违法行为予以及时规范和处理。如果现有法律法规无法有效规范技术发展的新业态,可先由主管部门予以警告、通报批评,责令限期改正,之后及时进行立法(需要考虑特殊立法与一般立法、国家立法与地方立法的辩证关系),确保有法可依、依法行政。

三是充分发挥职能部门的监管效能。业内人士指出,监管部门要划清技术应用边界,明确平台的责任规则,坚持谁使用谁负责,强化平台的监管责任。完善生成式人工智能技术应用的商业规则,包括知识产权归属和财产权益归属等,强化人工智能服务的行政审批备案机制。中国行政法学研究会常务理事沈福俊认为,监管部门还需更加关注新技术发展对市场端的影响,加大事前监管力度,充分运用现有的法律法规资源实施有效监管,尽早发现隐匿在“监管盲区”的新问题。监管部门可适时引入新兴技术,探索用AI技术监管AI的可能。同时,对生成式人工智能服务的产业链要保持关注、合理辨析,在现行法律法规基础上做好数据保护、涉诈犯罪风险预防等方面的监管。

四是推动平台承担落实法律责任。国际关系学院知识产权与科技安全研究中心主任郝敏、北京互联网法院综合审判三庭庭长孙铭溪表示,“AI换声”“AI换脸”等服务的规制需要多主体协同共治,平台承担的主体责任不容忽视。相关平台应严格遵守法律规定,履行AI技术服务提供者的义务。不得利用相关技术生成危害国家安全和利益、损害国家形象、侵害社会公共利益侵犯他人合法权益等。加强训练数据管理,采取必要措施保障训练数据安全,落实对于人工智能、深度合成等生成内容进行标识的规定。有关平台要帮助中老年用户群体辨别深度伪造技术,取缔不当得利的违法违规商家,尽可能减少技术滥用带来的社会风险。

参考文章:

1、AI“复活”逝者或面临法律风险

http://www.legaldaily.com.cn/sylm/content/2024-04/08/content_8982015.html

2、用AI复活亲人音容笑貌还需完善规则体系,记者调查AI复活逝者现象

https://society.huanqiu.com/article/4GunqSTawMv

3、给AI“复活”多上几把安全锁

http://www.xinhuanet.com/comments/20240312/3045d12aa64f4e1db0a4c2375ccfe1ac/c.html

4、AI“复活”逝者已成生意?相关技术推广需更多监管和规范

https://baijiahao.baidu.com/s?id=1793094893980596935&wfr=spider&for=pc

5、“AI换脸”涉黄敲响新技术监管警钟

https://baijiahao.baidu.com/s?id=1794655741292841096&wfr=spider&for=pc

6、“AI换脸”以假乱真,哪些风险不容忽视?

https://baijiahao.baidu.com/s?id=1782225022703497335&wfr=spider&for=pc

来源:法治网舆情中心(ID:fzwyqzx)

策划统筹:付萌 

分析师:赵鸽

新媒体编辑:李静


编辑:靳雪林