法治号
□ 法治日报全媒体记者 张晨 张雪泓
9.9元一键生成个人写真，效果堪比实体照相馆。近日，一款AI相机快速出圈，在社交媒体刷屏。随着AIGC（生成式人工智能）大模型的应用越来越多，数据非法获取、数据泄露及恶意滥用等法律风险也层出不穷。
网络空间不是“法外之地”。为应对技术迭代带来的挑战，人民法院加强网络空间人格权益保护，推进网络空间治理法治化。
新技术带来数据隐私泄露风险
先上传20张照片，付费9.9元就可以开始线上排队等待系统生成写真。在“妙鸭相机”走红之际，其触及用户隐私的使用条款引发争议。
“妙鸭相机”用户服务协议的相关授权许可规定：妙鸭相机不但可以使用用户AI生成的内容作为再训练数据，还永久的、不可撤销的、可转让的、可转授权的使用用户上传的内容，哪怕是在元宇宙等虚拟空间。
而后团队致歉，更改用户服务协议并承诺用户上传的照片只会用于数字分身制作，不会提取也不会用于识别和其他用途，且分身制作完成后自动删除。
近期，有关AIGC监管文件快速出台。7月13日，网信办联合7部门发布了《生成式人工智能服务管理暂行办法》，其中规定“不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息”。这一规定将于8月15日正式落地。
在用户隐私存在风险的同时，滥用AIGC模型还可能生成欺骗性内容，也引发担忧。
AIGC给出假信息怎么办？8月3日，北京互联网法院发布涉网络暴力案件审理情况报告。报告指出，随着社交网络不断发展以及新技术的应用，新型网络暴力手段更新较快、层出不穷，以人肉搜索、合成虚假照片、制作表情包、传播“AI换脸”视频等形式发生的网络暴力愈演愈烈。
“AI换脸”并不是新物种，它是利用人工智能等信息技术手段，操纵、修改视频、影像数据，将某人的面部更换为他人的面部，但保留身体动作等躯干特征，并在此基础上形成高度逼真的图像、视频等。
《法治日报》记者注意到，杭州互联网法院等曾审理过因“AI换脸”App利用深度合成算法侵害他人肖像权的案件，判决App开发者赔礼道歉并赔偿损失。
法院加强对侵权行为干预处置
“随着互联网的发展，广大网络用户喜欢在网络上分享自己的生活，与此同时也出现了个人信息泄露、遭受网络暴力等现象，此类以影射方式贬损他人，侵犯他人名誉权的案件不在少数。”北京互联网法院少年法庭庭长孙铭溪介绍说。
北京互联网法院发布的涉网络暴力案件审理情况报告显示，该院坚持民法典立法精神，在权利人的人格权益受到侵害或妨害时，对于人格权请求权的审查，不以构成过错或实际损失等侵权责任为条件，受害人仅需证明人格权益遭受侵害或妨害即可，降低了权利人的举证负担，有效遏制了损害的进一步扩大，强化了对权利人人格权的救济与保护。
朋友圈盗图冒充他人，发送不良信息是否构成侵权？
在刘某诉赵某网络侵权责任纠纷案中，原告刘某与被告赵某为大学同学，并互为微信好友。被告持续两年多时间复制原告发布在朋友圈、微博的照片及文字，发布在自己注册的、仿冒原告的微博账户中，营造仿冒微博账户为原告使用的假象。
被告利用仿冒微博账户给其他用户私信发送无法辨认、面部模糊的女性暴露照片，让其他用户误以为色情图片的主角为原告，或认为原告使用该微博账号从事违法交易。原告发现后，向北京互联网法院提起诉讼，主张自己名誉权遭到侵害，要求被告赔礼道歉、赔偿损失。
法院经审理认为，在本案中，被告长期盗用原告朋友圈照片及文字在其注册的微博账户中发布，容易使读者认为该账户为原告持有，并利用该微博账户给其他用户私信发送无法辨认面部的女性暴露照片，该行为必然致使他人对原告的社会评价降低，侵害原告的名誉权。
最终，法院判决被告在媒体上刊登致歉声明向原告赔礼道歉，赔偿原告精神损害赔偿金和律师费。
“对于如何判断网络信息针对的对象是否为特定人，并不必须要求侵权言论指名道姓，只要原告能证明在特定情况下，具有特定知识背景的人有理由相信该陈述针对的对象是该人即可。”孙铭溪指出，民事主体享有名誉权，任何组织或个人不得以侮辱、诽谤等方式侵害他人的名誉权。若遭遇网络侮辱、诽谤等侵权行为，可及时寻求司法救济。
及时发禁令限制虚假信息传播
“北京互联网法院涉网络暴力的案件主要为以名誉权、隐私权、个人信息权益等人格权益受到侵害为由提起的网络侵权责任纠纷。”北京互联网法院副院长赵瑞罡说。
自2018年9月至今，该院以自然人为原告、以判决形式审结的该类案件共465件作为统计分析样本发现，从权利类型来看，在网络侵害人格权案件中，单独主张名誉权纠纷257件，占比55.3%；单独主张隐私权纠纷7件，占比1.5%；单独主张个人信息权益纠纷12件，占比2.6%。
“侵权主体难以直接锁定、侵权行为复杂多样和侵害后果难以量化是此类案件审理的主要难点。”赵瑞罡表示，面临网络暴力司法治理的新形势，该院坚持强化人格权益网络保护工作，依法保障网暴受害人权利，坚决惩治网络暴力侵权行为，依法落实和强化平台责任承担，依法确定“网络大V”的核实注意义务，不断探索完善涉网暴案件的裁判理念和规则。
此外，北京互联网法院积极探索在涉网暴案件中“人格权禁令”制度的具体适用，对于符合民法典第九百九十七条规定的“民事主体有证据证明行为人正在实施或者即将实施侵害其人格权的违法行为，不及时制止将使其合法权益受到难以弥补的损害”情形的，根据权利人申请，依法及时作出人格权侵害禁令。
记者注意到，在一起网络侵权责任纠纷案中，侵权人在开庭前及庭审后持续通过网络账号以每晚定点直播形式公开发布大量涉嫌侵权的内容，北京互联网法院依权利人申请，及时对侵权人作出人格权侵害禁令。
“北京互联网法院将进一步通过发布涉网络暴力典型案例、开展多种形式的普法活动、制作线上普法视频等方式，向社会明确传导‘网络空间不是法外之地’的理念，引导广大网民共建美好精神家园。”赵瑞罡说。
编辑：杜洋